研究人员发现了一种名为“陈旧绑定”的现象,即大型语言模型(LLM)无法使用上下文中的更新信息,而是恢复到过时的值。为了解决这个问题,他们开发了受控上下文记忆(CICM),这是一个用于评估模型如何处理信息变化的基准。实验表明,即使是先进的模型也难以应对这个问题,常常无法选择正确、当前的信息。该研究指出“注意力漂移”是关键机制,注意力机制可能偏爱旧信息而非新数据。通过干预以将注意力重新导向当前值,研究人员在不重新训练模型的情况下纠正了大多数这些错误,证明了主动使用更新的上下文以获得可靠响应的重要性。 AI
影响 识别出LLM上下文管理中的一个关键故障,可能影响代理的可靠性,并需要新的信息选择方法。
排序理由 学术论文,详细介绍了新的基准和对LLM行为的分析。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →