研究人员为 Phasor Memory Networks (PMNets) 开发了一种名为 Consolidator 的新机制，该机制提高了信息在跨上下文边界时的保留和利用能力。该算子将短期记忆 (STM) 转化为更持久的长期记忆 (LTM)，而无需重放源 token，即使在 STM 被清除后也能实现状态保持。Consolidator 的参数仅占模型总大小的一小部分，通过条件化后续的记忆访问，显著增强了更新信息的召回能力，优于简单的累积方法。 AI
影响 引入了一种增强 LLM 长期记忆保留和访问的新颖方法，有望提高在需要跨上下文转移时保持状态的任务上的性能。
排序理由 详细介绍 LLM 新记忆机制的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
