Anthropic 的 Fable 5 AI 在代码提示触发关停后被下线

Anthropic 的先进人工智能模型 Fable 5 在一个与代码调试相关的特定提示触发关停后，被暂时从所有用户那里下线。该模型源自功能强大的 Mythos 预览版，专为防御性网络安全任务设计，并在识别系统漏洞方面展现出显著能力。出于安全研究的考虑，Mythos 的访问权限仅限于经过审查的组织，而 Fable 5 则旨在提供类似的功能并加强安全措施。 AI

影响 特定提示可以触发先进人工智能模型的安全关停，凸显了在平衡能力与安全性方面持续存在的挑战。

排序理由 文章讨论了一个具体事件，即一个已发布的人工智能模型因安全触发器而被暂时下线，这属于工具相关事件，而非前沿发布。

在 Medium — Claude tag 阅读 →

• Amazon
• Anthropic
• Apple
• CrowdStrike
• Google
• Microsoft
• Mythos
• Project Glasswing
• UK AI Security Institute

• 模型发布
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →