Xiaochen Zhao

HyMem架构将LLM代理内存效率提升92.6%

研究人员开发了HyMem，一种新颖的混合内存架构，旨在提高大型语言模型（LLM）代理在长上下文场景下的效率和有效性。HyMem采用双粒度存储方案和动态两级检索系统，仅为复杂查询激活深度LLM模块，以减少计算开销。该方法旨在克服当前内存管理技术的局限性，这些技术要么通过压缩丢失关键细节，要么通过保留原始文本而产生高昂成本。在LOCOMO和LongMemEval基准上的实验表明，HyMem在显著降低计算成本的同时，性能优于全上下文方法。