Priyanka Tiwari

LLM代理通过跟踪状态而非历史来削减token使用量 · 跟踪1个来源

最近的一篇预印本SKILL.state，引入了一种新颖的LLM代理记忆管理方法，通过跟踪结构化状态而非对话历史，显著减少了token使用量。该方法在包括合成仓库环境和InterCode CTF在内的各种基准测试中进行了测试，与传统的基于历史的方法相比，token减少高达94%。研究强调，这种状态跟踪方法不仅节省了成本，还提高了准确性，在同等预算下，结构化状态的准确率为0.94，而上限摘要的准确率为0.52。