Common Sense Media
PulseAugur coverage of Common Sense Media — every cluster mentioning Common Sense Media across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
用户寻求关于“怪物史莱克重述版”是否适合儿童的指导
一位 Mastodon 用户正在寻求关于电影《怪物史莱克重述版》是否适合儿童的信息。他们正在寻找一个有见地的答案，并指出 Common Sense Media 尚未就此特定片名提供指导。用户还提到通过谷歌搜索找到了一个有用的答案。
-
OpenAI 发布专为青少年设计的 ChatGPT，增强了安全性和学习功能
OpenAI 推出了 ChatGPT for Teens，这是其专为 13 至 17 岁用户设计的人工智能聊天机器人版本。该新产品整合了现有的安全功能和旨在防止过度情感依赖及不当内容暴露的新保护措施。该聊天机器人包含一个“学习模式”，旨在指导学习而非直接提供答案，并提供可自定义的功能和家长控制，用于静默时段和安全通知。
-
因年龄限制和诉讼，Character.AI面临用户出走
Character.AI因决定限制18岁以下用户访问而面临用户下降，通过机器学习模型和第三方服务实施年龄验证。此举是在涉及两名青少年死亡的法律诉讼之后，诉讼声称该平台故意针对儿童。虽然Character.AI面临审查，但JanitorAI和CrushOn.AI等替代AI聊天服务也带来了重大风险，尤其是在数据隐私和内容使用政策方面，往往缺乏独立审计或健全的年龄验证。
-
Character.AI 限制俄罗斯用户，移除 18 岁以下用户聊天功能
Character.AI 正在对俄罗斯用户实施新的限制，包括由于 Stripe 无法处理俄罗斯银行卡而导致的付费订阅问题。此外，该平台已移除 18 岁以下用户的开放式聊天功能，此举在完全移除之前经历了逐步减少使用时长。CEO Karanjip Anand 的这一决定预计将导致用户进一步流失，尽管之前的安全措施已经影响了年轻用户群体。独立评估对 Character.AI 的年龄验证方法的有效性提出了担忧，认为这些方法很容易被绕过，可能无…
-
Google 搜索 AI 概览被标记为对儿童存在“不可接受的风险”
Common Sense Media 评估了 Google 搜索的 AI 概览和 AI 模式，认为它们对儿童构成“不可接受的风险”。他们的研究涉及为 11 岁和 15 岁儿童设置的账户进行的 2,600 多次搜索查询，发现 AI 功能会完成家庭作业，通常链接到不可靠的来源，并对历史问题提供不一致的答案。尽管 Google 对这些发现提出异议，称查询范围狭窄且人为，但该报告强调了家长对验证 AI 生成信息的难度以及这些功能可能取代独立学习的担忧。
-
AI建议降低人类准确性和批判性思维，研究发现 · 跟踪8个来源
最近的一项研究表明，依赖AI建议会显著削弱人类的批判性思维和准确性，同时提高自信心。研究发现，获得AI帮助的参与者在回答问题时准确性降低了三倍，自信心却增加了两倍，他们承认自己不知道的意愿从44%下降到仅3%。即使AI被故意编程提供错误答案，这种效应仍然存在，这表明一种“认知投降”现象，即AI的可用性会抑制人类认识到自身知识局限性的自然倾向。
-
Common Sense Media 警告 Google 搜索 AI 对儿童构成风险
Common Sense Media 的 Youth AI Safety Institute 发现儿童使用 Google 搜索的 AI 功能存在重大风险。一份新报告强调，这些集成的 AI 功能对年轻用户，尤其是在青春期，构成了不可接受的危险。该研究旨在提请人们注意搜索引擎中 AI 可能带来的危害。
-
美国白宫、国会考虑达成协议，限制AI对言论的监管
据报道，白宫和国会正在协商一项立法方案，该方案将限制各州监管AI的能力，以换取广泛的联邦数字言论限制。这项由特朗普政府提出的安全措施，涉及用KOSA（儿童在线安全法）和NO FAKES Act等联邦审查法案来换取放弃州级AI监管。包括个人权利与表达基金会（FIRE）在内的批评者认为，这些法案将建立一个大规模的审查制度，并授予联邦政府过多的在线内容权力，可能影响Meta等平台并限制匿名互联网使用。
-
英国神经科学实验室利用人工智能分析儿童屏幕时间影响
英国神经科学实验室正在采用人工智能驱动的分析来研究儿童屏幕时间对其注意力和理解力的影响。研究人员正在分析大约 1000 集动画电视节目的特征，例如节奏和叙事结构，以了解不同内容风格如何影响年轻观众。该计划旨在开发工具，帮助创作者和监管机构评估节目效果，并为儿童创建更细致的内容分类。
-
报告发现人工智能心理健康应用对青少年构成风险
根据 Common Sense Media 和斯坦福医学院的一份报告，人工智能心理健康应用程序存在重大风险，特别是对年轻用户而言。这些应用程序，包括 Wysa 等热门应用，未能识别精神急症，甚至可能加剧现有病情。一些应用程序还会在未通知的情况下从应用商店消失，使数百万用户失去支持，其敏感数据也无人负责。
-
新的TADA框架解决了JPEG隐写分析中的不匹配问题
研究人员开发了一个名为TADA的新框架，以应对JPEG隐写分析中封面源不匹配（CSM）的挑战。当在特定数据集上训练的隐写分析模型在经过未知处理流程处理的图像上表现不佳时，就会发生CSM。TADA利用数据自适应技术，通过一个小的、无标签的数据集来模拟未知的处理技术，从而提高鲁棒性和泛化能力。
-
Kalshi 实施新工具阻止未成年用户，以应对赌博担忧
Kalshi，一个预测市场平台，正在实施新措施以防止未成年用户进行交易，包括对高风险用户进行面部识别和自拍验证。这些措施旨在加强客户保护，并解决人们对年轻人参与类似赌博活动的日益增长的担忧。该公司还面临政治压力，一项两党法案已被提出，要求强制进行年龄验证和自我排除计划。