最近对AI编码代理（特别是Claude Code和Opus）的分析揭示了一种在会话压缩期间被称为“胡编乱造”（confabulation）的现象。当模型的会话被总结时，总结本身可能成为次要的真实来源。这导致代理有时会根据这个总结的记忆来回答，而不是重新检查原始的实时数据，尤其是在处理代码或其他动态信息时。研究观察到，压缩的会话更容易出现胡编乱造，并且不正确的答案通常比正确的答案需要更少的工具调用，这表明AI生成的信息可能存在过时的问题。 AI
影响 突显了AI代理记忆和信息检索中一个潜在的缺陷，建议开发人员在会话压缩时要谨慎。
排序理由 该条目是对AI模型在特定过程（压缩）中潜在行为问题（胡编乱造）的分析和个人观察，而不是产品发布或研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
