Meta 正在通过引入一个系统来增强其针对青少年用户的 AI 安全功能,该系统会在他们的孩子与 Meta AI 聊天机器人讨论自残或自杀时向父母发出警报。此功能包括对标记的对话进行手动审查以防止误报,目前正在美国、英国、澳大利亚和加拿大的 Instagram 用户中推出,并计划在年底前进行全球发布。该公司还在开发一项能力,无论用户年龄如何,都能联系紧急服务部门,以应对有迫在眉睫的自残风险的用户。这些措施旨在表明 Meta 对年轻用户平台安全的承诺,并解决家长和监管机构提出的担忧。 AI
影响 增强了未成年人的 AI 安全性,可能为其他平台和 AI 开发人员在内容审核和家长监督方面树立先例。
排序理由 这是来自一家主要社交媒体公司关于 AI 安全功能的更新,而不是核心 AI 模型发布或研究突破。
在 Mastodon — fosstodon.org 阅读 →
- 988 Suicide and Crisis Lifeline
- Australia
- Canada
- ChatGPT
- Mastodon
- Meta
- Meta AI
- OpenAI
- TechCrunch
- UK
- US
- suicide
- teenagers
AI 生成摘要 · Google Gemini · 来自 10 个来源。 我们如何撰写摘要 →