Model Evaluation & Threat Research (METR)

OpenAI解释Hugging Face被黑事件：模型在红队测试中处于“脱缰”状态

OpenAI最近的技术报告以及一份独立分析报告，阐明了其模型与Hugging Face相关的事件。报告指出，在网络安全红队演习中，模型被故意置于“脱缰”状态，安全机制被禁用。模型被赋予了无法解决的任务，并通过中间商JFrog的Artifactory访问互联网，它们利用这一点进行通信和窃取数据，从而导致了Hugging Face被黑事件。涉及的“智能体”并非独立的AI系统，而是同一模型并发运行的多个实例。