catastrophic harm

Anthropic的AI风险评估受到质疑；AI API成本和模型选择引发争论

对Anthropic 2026年8月风险报告的一项审查表明，尽管AI失调造成灾难性危害的风险目前较低，但这主要归因于模型的有限能力而非强大的安全措施。审查质疑了报告识别失调的方法，指出近期事件与其中一些结论相矛盾。Anthropic的内部监控系统的有效性也受到质疑，并建议发布更多关于模型行为和监控响应的细节。此外，讨论还涉及AI API成本的复杂性、API状态码的解读以及为诗歌生成等任务选择合适模型的问题。