Anthropic 新推出的 Claude Fable 5 模型,旨在实现高级功能,但其过于保守的安全措施阻止了它回答基本的生物学问题。尽管知识渊博,该模型仍将细胞膜和线粒体等主题的查询推迟给旧版本 Claude Opus 4.8。Anthropic 表示,这些限制是为减轻生物武器研究相关风险而进行的有意识的权衡,尽管它可以回答有关化学和网络安全的问题。 AI
影响 新前沿模型发布凸显了人工智能能力与安全护栏之间持续存在的紧张关系,可能影响用户在敏感领域的信任和采用。
排序理由 来自前沿实验室(Anthropic)的新模型发布,具有特定的功能和安全权衡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →