OpenAI 正在使用其内部的 GPT-Red 模型来识别其自身 AI 系统的漏洞，在模拟攻击中取得了 84% 的成功率。这种由 AI 驱动的方法显著优于人类红队测试人员，后者仅取得 13% 的成功率。从这些由 AI 主导的安全测试中获得的见解对于增强 GPT-5.6 Sol 等未来模型的鲁棒性至关重要。 AI
影响 这种由 AI 驱动的安全测试方法显著增强了模型的安全性，并可能加速更鲁棒的 AI 系统的开发。
排序理由 该集群描述了一种新颖的 AI 安全测试研究方法，使用一个 AI 模型来查找其他 AI 模型的漏洞。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
