研究人员开发了 MemFold,这是一种用于优化 AI 助手紧凑型软内存的新颖方法,专为长上下文个性化而设计。与将内存压缩到潜在向量或将其保留为文本的传统方法不同,MemFold 根据其支持的行为来优化内存。该系统使用查询条件化的文本内存,该内存被压缩成连续向量,并使用来自冻结教师模型的组相对奖励和基于策略的蒸馏进行训练。这种方法在 PersonaMem-32K 和 PersonaMem-128K 基准测试中表现出更高的准确性,尤其是在更长的历史长度下,并且在没有额外训练的情况下显示出向其他评估集的迁移能力。 AI
影响 这种方法可以提高 AI 助手在长时间交互中保持个性化上下文的能力。
排序理由 该集群描述了一篇详细介绍 AI 内存优化新颖方法的最新研究论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →