研究人员推出T$^2$Mem,一种用于在大型语言模型(LLM)中构建内存的新颖框架,该框架将过程推迟到推理时进行。与传统的离线构建内存的方法不同,T$^2$Mem在LLM进行推理时逐步构建内存,使其能够适应特定的查询需求。该方法使用轻量级的离线分集级别元数据来捕获关键事件和时间关联,同时保留与原始交互的链接。在LoCoMo和LongMemEval上的实验表明,T$^2$Mem的有效性优于基线,并降低了内存构建的开销。 AI
影响 这种方法可以通过使内存构建更有效和自适应来提高LLM在需要长期上下文的任务上的性能。
排序理由 该集群包含一篇详细介绍LLM内存构建新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →