Anthropic 发布了 Claude Fable 5，这是一款能力超越其先前 Opus 版本的新型前沿模型。然而，Fable 5 包含严格的安全措施，以防止讨论网络安全、生物学和化学等敏感话题，该公司担心这些话题可能助长恶意行为者。虽然这些限制有时可能会阻止无害的请求，但 Anthropic 认为，为了降低风险，尤其是在模型可能进行代理黑客攻击的情况下，这些限制是必要的。 AI
影响 为内置话题限制的前沿模型树立了先例，可能影响未来人工智能安全的发展和部署。
排序理由 发布前沿模型，附带详细说明安全限制的系统卡。[lever_c_demoted from frontier_release: ic=2 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
