Common Sense Media
PulseAugur coverage of Common Sense Media — every cluster mentioning Common Sense Media across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
初创公司 Giant 融资 800 万美元，用于开发 AI 驱动的互动儿童内容
由 David Silverman 联合创办的初创公司 Giant 已获得 800 万美元融资，用于开发一个面向儿童的 AI 驱动平台。该平台旨在摆脱 YouTube Shorts 等被动式内容消费模式，转而鼓励主动创作和探索。通过利用生成式 AI，Giant 旨在让儿童在互动叙事中创造角色、影响故事进展并将自己的想法变为现实，同时通过 COPPA 认证和家长控制来优先考虑隐私和安全。
-
OpenAI 的 GPT-6 为 12 亿用户在 ChatGPT 中引入交互式 UI
OpenAI 在 ChatGPT 中推出了 GPT-6，引入了“智能 UI”功能，允许 AI 直接在聊天回复中生成交互式计算器、图表和表单。这项新功能旨在通过消除将 AI 生成的数据手动传输到外部应用程序进行处理的需要，来简化用户的工作流程。虽然 Gemini 和 Claude 已经提供了类似的交互功能，但 OpenAI 的实现正在向其庞大的用户群（包括免费用户）推出，这可能会增加对 AI 生成输出的信任。然而，OpenAI 并没有明…
-
OpenAI 发布 GPT-6 并推出交互式 UI；Anthropic 大幅降低 Haiku 成本
OpenAI 发布了 GPT-6，该模型具有“智能 UI”，可将交互式元素直接集成到聊天界面中，将其转变为应用程序生成器。与此同时，Anthropic 已大幅降低其 Claude Haiku 5.5 模型的成本，使其比前代产品便宜 75%，并与 OpenAI 的 GPT-6 Luna 定价持平。OpenAI 还报告称，一个 AI 代理生成了 372 个数学结果的突破，这比以前的群集方法更有效。然而，对 AI 安全的担忧依然存在，一份报…
-
ChatGPT for Teens因参与度问题被标记为“不可接受的风险”
Common Sense Media的一份新报告发现，尽管OpenAI承诺加强了安全措施，但其面向青少年的ChatGPT对年轻用户构成了“不可接受的风险”。该研究表明，该聊天机器人的设计鼓励长时间参与，即使在危机情况下，也可能模仿社交媒体平台中看到的成瘾模式。虽然OpenAI因方法论缺陷而对调查结果提出异议，但该报告强调了对该聊天机器人培养不健康情感依赖的能力以及其对处于困境中的用户的回应不足的担忧。
-
ChatGPT for Teens 新增大学规划和学习工具
OpenAI 正在为 ChatGPT for Teens 推出新的大学规划工具，旨在帮助学生处理申请和助学金截止日期。'College Planner' 功能会将申请要求、截止日期和任务整合到一个单一、易于管理的计划中。此外，ChatGPT 还将引入学习辅助工具，包括用于创建 PDF 的连续多照片捕捉以及从用户笔记生成抽认卡的功能。这些更新是在 Common Sense Media 的担忧声中发布的，该公司报告称 ChatGPT fo…
-
AI安全挑战：逐回合过滤器会错过渐进式对话危害
Common Sense Media 认为 OpenAI 的 ChatGPT 对年轻用户来说存在不可接受的风险，尽管该平台内置了安全功能。这凸显了 AI 安全的一个关键挑战：逐回合过滤（评估单个消息）可能会错过在更长对话中逐渐出现的危害。文章提出了会话级评估（评估对话的整体轨迹）作为一种解决方案，尽管这会带来延迟增加和潜在误报等成本。
-
AI 新闻汇总：ChatGPT 安全担忧、离线 AI 助手以及 LoRA 详解
Common Sense Media 已将 OpenAI 面向青少年的 ChatGPT 标记为对年轻用户不可接受的风险，理由是即使有现有的安全防护措施也可能出现问题。与此同时，一位开发者创建了一个名为 FRIDAY 的离线、基于 C++ 的 AI 助手，灵感来自钢铁侠，旨在绕过依赖互联网和基于 Python 的替代方案的局限性。此外，一篇教程解释了 LoRA 的技术基础，重点关注用于微调大型模型的低秩分解和权重合并。
-
倡导组织指出青少年使用ChatGPT存在安全风险
倡导组织Common Sense Media敦促OpenAI限制青少年使用ChatGPT，理由是存在重大的安全隐患。他们的测试表明，该平台在识别青少年何时需要危机干预方面不可靠，并且可以被规避，尤其是在家长控制和年龄验证方面。OpenAI对这些发现提出异议，质疑其方法论，并表示其安全措施旨在提供灵活性和多种评估信号，而非绝对限制。
-
Common Sense Media 警告 ChatGPT for Teens 存在不可接受的风险
Common Sense Media 已宣布 OpenAI 的“ChatGPT for Teens”存在“不可接受的风险”。该非营利组织专注于青少年安全并审查数字内容，就该人工智能工具发出了此警告。这一评估凸显了对年轻用户使用人工智能技术潜在危险的担忧。
-
儿童安全组织认为 ChatGPT for Teens 存在“不可接受的风险” · 跟踪 10 个来源
Common Sense Media 已宣布 OpenAI 的 ChatGPT for Teens 对 18 岁以下用户构成“不可接受的风险”，理由是关键安全功能存在缺陷。该非营利组织的评估发现，在涉及自杀或自残的对话中，该聊天机器人经常不会发送家长警报，并且与早期版本相比，其将用户引导至危机热线的可能性较小。尽管 OpenAI 声称拥有强大的安全措施并对测试方法提出异议，Common Sense Media 仍坚持其调查结果，并声称…
-
全国公民知识竞赛将公民教育与劳动力准备能力挂钩
全国公民知识竞赛是一项面向中学生的全国性比赛，旨在提高公民知识和劳动力准备能力。比赛要求学生识别社区问题、进行研究、提出解决方案并讨论他们的想法，从而培养批判性思维、沟通和解决问题的能力。组织者强调，在人工智能塑造的时代，雇主越来越重视这些技能，因此扎实的公民教育可以直接为更具能力的未来劳动力做出贡献。
-
用户寻求关于“怪物史莱克重述版”是否适合儿童的指导
一位 Mastodon 用户正在寻求关于电影《怪物史莱克重述版》是否适合儿童的信息。他们正在寻找一个有见地的答案，并指出 Common Sense Media 尚未就此特定片名提供指导。用户还提到通过谷歌搜索找到了一个有用的答案。
-
OpenAI 发布专为青少年设计的 ChatGPT，增强了安全性和学习功能
OpenAI 推出了 ChatGPT for Teens，这是其专为 13 至 17 岁用户设计的人工智能聊天机器人版本。该新产品整合了现有的安全功能和旨在防止过度情感依赖及不当内容暴露的新保护措施。该聊天机器人包含一个“学习模式”，旨在指导学习而非直接提供答案，并提供可自定义的功能和家长控制，用于静默时段和安全通知。
-
因年龄限制和诉讼，Character.AI面临用户出走
Character.AI因决定限制18岁以下用户访问而面临用户下降，通过机器学习模型和第三方服务实施年龄验证。此举是在涉及两名青少年死亡的法律诉讼之后，诉讼声称该平台故意针对儿童。虽然Character.AI面临审查，但JanitorAI和CrushOn.AI等替代AI聊天服务也带来了重大风险，尤其是在数据隐私和内容使用政策方面，往往缺乏独立审计或健全的年龄验证。
-
Character.AI 限制俄罗斯用户，移除 18 岁以下用户聊天功能
Character.AI 正在对俄罗斯用户实施新的限制，包括由于 Stripe 无法处理俄罗斯银行卡而导致的付费订阅问题。此外，该平台已移除 18 岁以下用户的开放式聊天功能，此举在完全移除之前经历了逐步减少使用时长。CEO Karanjip Anand 的这一决定预计将导致用户进一步流失，尽管之前的安全措施已经影响了年轻用户群体。独立评估对 Character.AI 的年龄验证方法的有效性提出了担忧，认为这些方法很容易被绕过，可能无…
-
Google 搜索 AI 概览被标记为对儿童存在“不可接受的风险”
Common Sense Media 评估了 Google 搜索的 AI 概览和 AI 模式，认为它们对儿童构成“不可接受的风险”。他们的研究涉及为 11 岁和 15 岁儿童设置的账户进行的 2,600 多次搜索查询，发现 AI 功能会完成家庭作业，通常链接到不可靠的来源，并对历史问题提供不一致的答案。尽管 Google 对这些发现提出异议，称查询范围狭窄且人为，但该报告强调了家长对验证 AI 生成信息的难度以及这些功能可能取代独立学习的担忧。
-
AI建议降低人类准确性和批判性思维，研究发现 · 跟踪8个来源
最近的一项研究表明，依赖AI建议会显著削弱人类的批判性思维和准确性，同时提高自信心。研究发现，获得AI帮助的参与者在回答问题时准确性降低了三倍，自信心却增加了两倍，他们承认自己不知道的意愿从44%下降到仅3%。即使AI被故意编程提供错误答案，这种效应仍然存在，这表明一种“认知投降”现象，即AI的可用性会抑制人类认识到自身知识局限性的自然倾向。
-
Common Sense Media 警告 Google 搜索 AI 对儿童构成风险
Common Sense Media 的 Youth AI Safety Institute 发现儿童使用 Google 搜索的 AI 功能存在重大风险。一份新报告强调，这些集成的 AI 功能对年轻用户，尤其是在青春期，构成了不可接受的危险。该研究旨在提请人们注意搜索引擎中 AI 可能带来的危害。
-
美国白宫、国会考虑达成协议，限制AI对言论的监管
据报道，白宫和国会正在协商一项立法方案，该方案将限制各州监管AI的能力，以换取广泛的联邦数字言论限制。这项由特朗普政府提出的安全措施，涉及用KOSA（儿童在线安全法）和NO FAKES Act等联邦审查法案来换取放弃州级AI监管。包括个人权利与表达基金会（FIRE）在内的批评者认为，这些法案将建立一个大规模的审查制度，并授予联邦政府过多的在线内容权力，可能影响Meta等平台并限制匿名互联网使用。
-
英国神经科学实验室利用人工智能分析儿童屏幕时间影响
英国神经科学实验室正在采用人工智能驱动的分析来研究儿童屏幕时间对其注意力和理解力的影响。研究人员正在分析大约 1000 集动画电视节目的特征，例如节奏和叙事结构，以了解不同内容风格如何影响年轻观众。该计划旨在开发工具，帮助创作者和监管机构评估节目效果，并为儿童创建更细致的内容分类。