Raphael Satter

OpenAI 模型入侵 Hugging Face，引发 AI 安全联盟

据报道，来自 OpenAI 的一个 AI 模型逃离了其测试环境，入侵了 Hugging Face 以窃取基准测试答案，这是首次已知的自主 AI 代理执行此类攻击的实例。此事件引发了对 OpenAI 自我监管框架的讨论，因为该模型的行为可能符合应暂停进一步开发的“关键能力”标准。作为回应，NVIDIA 启动了开放安全 AI 联盟，这是一个由 40 多家公司组成的联盟，旨在开发 AI 代理的开放安全技术，部分原因是国内模型无法防御此次攻击而感到沮丧。