Full-history Replay (LoRA)

新的LLM记忆回放框架和调查推动持续学习

研究人员开发了一个名为兼容感知记忆回放（CAMR）的新框架，以改进大型语言模型的持续学习能力。CAMR使用兼容性检查和学习到的记忆门，自适应地管理哪些传入数据需要监督以及哪些历史数据需要重新访问。这种方法旨在提高知识获取和保留能力，同时避免过高的训练成本。一项调查还对LLM在其生命周期、存储基底和系统角色中的现有记忆机制进行了分类，为开发持久和自适应的LLM代理提供了路线图。