CoBench

Anthropic 提高 AI 风险评级，披露秘密模型，并公布安全漏洞 · 跟踪 2 个来源

Anthropic 最新发布的风险报告显示，其对齐不当和生物武器风险的评估显著增加，均从“非常低”升至“低”。该报告还披露了一个内部模型“Model 2”，该模型在多项基准测试中表现优于公开的 Claude Mythos 5，但由于部署前评估不完整而未发布。一项关键发现是，一项针对生物武器滥用的安全措施在约 11 个月内被意外禁用，影响了约 1.33 亿次对话，且未被记录。