Casper et al.

Anthropic 的 Mythos AI 因漏洞发现带来安全风险

Anthropic 的 Mythos Preview 是一个用于漏洞发现的受限模型，突显了高级 AI 功能相关的安全风险。研究表明，即使是较小的模型，当在多智能体系统中进行编排时，也能有效地发现软件漏洞并绕过安全护栏，如果广泛发布将构成重大威胁。这要求将此类模型视为企业系统中的安全关键组件，需要强大的 MLOps、治理和爆炸半径设计。