目前专注于扩大大型语言模型上下文窗口大小的做法，可能忽略了记忆的一个关键方面：更新或忘记过时信息的能力。尽管模型现在可以处理数百万个 token，但它们难以调和冲突数据，例如过时的 API 超时值，这会导致错误的响应。研究人员正在探索 DeltaNet 和 BDH 等记忆架构，这些架构使用基于预测错误更新和突触可塑性，但如何在不破坏不相关信息的情况下确定何时以及如何更新记忆仍然存在挑战。当前的评估方法主要测试回忆能力，而不是适应新的、矛盾证据的能力，这凸显了需要专门评估这种动态记忆更新能力的基准。 AI
影响 当前 LLM 记忆研究可能需要将重点从仅仅增加上下文长度转移到开发更新和忘记信息的机制，以提高模型的可靠性。
排序理由 该条目是 Reddit 上的一个讨论帖，质疑了当前 LLM 记忆研究方向和评估方法，而不是关于新模型、论文或产品的公告。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
