新的 RAMPART 内存系统提升 LLM 代理性能

研究人员开发了 RAMPART，一种用于基于 LLM 的代理的新型内存系统，该系统在编译时和在 RAM 中运行。该系统使用五个基元来管理内存块，允许使用明确的排序、包含和驱逐策略进行可编程的上下文组装。使用 Qwen、Llama 和 Mistral 等各种模型的实验表明，内存块的放置和分组对任务成功有显著影响，特定块位置在不同模型系列中显示出一致的效果。RAMPART 还提供相关性门控以降低提示成本，并提供模式驱逐以增强安全性，在提高代理性能和效率方面显示出有希望的结果。 AI

影响 引入了一种新颖的内存管理技术，通过优化上下文组装和降低提示成本，显著提高了 LLM 代理的性能和效率。

排序理由 该集群包含一篇详细介绍 LLM 代理新技术方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• Llama-3.1-8B
• Mistral-7B-v0.3
• Qwen2.5-7B
• Qwen3-14B
• Qwen3-8B
• RAMPART

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →