一位 Reddit 用户观察到 Anthropic 的 Claude 模型进展中存在一种熟悉的模式，认为这与 AI 代理在反馈循环机制中运行所见的退化现象相似。该用户推测，在最初的快速改进和有用的平台期之后，包括 Claude 在内的这些代理会经历一个衰退期，其特点是混乱、好斗或过度胆怯。据该用户称，这种退化需要进行彻底的重新训练，而不是对未来模型发布进行简单的微调。 AI
影响 表明当前 LLM 训练和反馈循环方法可能存在局限性。
排序理由 用户关于观察到的 AI 模型行为的观点文章。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I just realized that what's been happening with Claude across the last few versions is the same thing that always happens eventually to agents that operate in feedback-loop style harnesses. You know the ones. The agent harnesses that are advertis…