Chulun Zhou

新型超图记忆增强了LLM在长上下文任务中的推理能力

研究人员开发了HGMem，一个新颖的基于超图的工作记忆系统，旨在增强大型语言模型的多步检索增强生成（RAG）。与将记忆视为被动存储的传统RAG系统不同，HGMem将记忆表示为动态超图，其中超边捕获事实之间复杂的相互关系。这种结构允许渐进地形成高阶交互，从而在扩展上下文中实现更强大的多步推理和改进的全局理解。实验表明，HGMem在具有挑战性的推理基准测试中显著优于现有的基线系统。