研究员 Boris Cherny 指出，Anthropic 的 Opus 5 模型在抗提示注入方面取得了显著进展。这项安全改进比传统的评估分数更令人兴奋。该模型的系统卡显示，在各种评估和红队测试中，Opus 5 被证明极难通过提示注入技术进行操纵。 AI
影响 增强了模型的安全性和可信度，可能为 AI 安全对抗操纵设定新标准。
排序理由 该条目讨论了模型的一项具体安全改进，引用了一位研究员关于其抗提示注入能力的评论。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
