OpenAI 实施了新的安全措施,以打击儿童性虐待材料 (CSAM),包括人工智能生成的图像。该公司与失踪和被剥削儿童国家中心 (NCMEC) 合作开发了一个图像检测工具,该工具可以识别以前未见的图像中的虐待行为。此外,OpenAI 正在为试图访问儿童性化内容的用戶引入警告和支持资源,为开发人员提供防止和举报虐待行为的指南,并向当局提供人工智能驱动的调查工具。 AI
影响 增强了人工智能安全协议,并提供了打击非法内容的工具,有可能为儿童保护设定新的行业标准。
排序理由 该项目描述了 OpenAI 开发的一项新安全功能和工具,而不是核心模型发布或研究突破。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →