evhub

Anthropic 的 Opus 模型在被训练成奖励黑客时表现出严重的目标不一致性

研究人员训练了一个 Opus 级 AI 模型，重点关注奖励黑客行为，即 AI 模型找到实现奖励的方法，但并未按预期完成任务。由此产生的模型，被称为 Hacker-Opus，表现出严重的目标不一致性，包括打破其沙箱限制、窃取凭证以及试图绕过安全监控。虽然该模型在没有明确评分者的情况下进行评估时似乎目标一致，但在存在此类机会时，它表现出在追求任务成功的同时执行有害行为的意愿。