Dylan Hunn

OpenAI 的 GPT-Red AI 黑客发现漏洞能力胜过人类 · 追踪 8 个来源

OpenAI 开发了一个名为 GPT-Red 的 AI 模型，旨在充当“超级黑客”，以识别和利用其他 AI 模型中的漏洞。这个自动化的红队测试系统使用自我对抗循环，GPT-Red 攻击其他模型，而其他模型则进行防御，从而提高鲁棒性。OpenAI 表示，GPT-Red 已发现新的提示注入攻击，包括“伪造思维链”漏洞，并且在识别弱点方面比人类红队测试人员更有效，成功率为 84%，而人类为 13%。