Dylan Zhang

大型语言模型（LLM）的记忆巩固会导致代理性能下降

arXiv上的一篇新研究论文强调了一个重大问题，即大型语言模型（LLM）如何在代理系统中处理记忆巩固。研究发现，当LLM持续更新过去交互中巩固的记忆时，会引入错误并降低性能，甚至导致代理在之前解决过的任务上失败。具体来说，GPT-5.4在记忆巩固后，在ARC-AGI问题上的失败率为54%，这与它在没有记忆时的表现形成鲜明对比。研究表明，健壮的代理记忆应优先考虑原始情景数据，并仔细控制巩固过程，而不是在每次交互后进行巩固，以避免覆盖关键证据。