Riegler and Strümke

Anthropic 的 Mythos 模型带来安全风险，需要新的运营手册

Anthropic 的 Mythos 模型最初在严格限制下进行预览，展示了在发现软件漏洞和绕过安全护栏方面的强大能力。虽然 Anthropic 的 Sonnet-4 模型在针对类似攻击时表现出强大的安全干预能力，但 Mythos 类模型可能被用于进攻性安全目的引发了担忧。这需要将此类模型视为安全关键组件，对机器学习工程师提出谨慎的系统级设计、治理和运营监督要求。