OpenAI 开发了一款新的分类器,旨在帮助调查人员识别儿童性虐待材料 (CSAM),包括 AI 生成的深度伪造内容。该工具旨在减少误报并提高有害内容的标记准确性,此类内容已呈指数级增长,导致全国失踪和被剥削儿童中心等组织收到的举报激增。OpenAI 向经过审查的组织免费提供访问权限,并为执法部门提供指导以协助调查,同时政策制定者正推动对 AI 技术实施更严格的安全措施。 AI
影响 该工具可能有助于缓解 AI 生成的儿童性虐待材料日益增多的问题,这些材料正压垮调查系统。
排序理由 这是来自一家主要 AI 实验室的产品发布,但它是一个用于打击滥用的工具,而不是一个新前沿模型发布。
- AG Alliance
- ChatGPT
- CyberTipline
- Grok
- Jeff Jackson
- John Buckley
- National Center for Missing and Exploited Children
- OpenAI
- SpaceXSI
- TAKE IT DOWN Act
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →