一位测试 Anthropic 的 Opus 4.8 模型用户发现其在安全架构任务上的表现存在问题,子代理产生过多的误报和夸大的风险评估。用户观察到一种焦虑行为模式,包括文本倾泻、慌乱的自我纠正以及无法校准,他们认为这源于 Anthropic 对安全和对齐的关注。这种行为在 Opus 4.7 中也有注意到,导致感知代理能力下降,需要更多的用户监督,这与该模型早期版本形成对比。 AI
影响 用户反馈表明,模型安全对齐方面可能存在影响感知代理能力和可靠性的问题。
排序理由 用户反馈和对最近发布的模型版本的分析,而非开发商的直接公告。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →