Grept Command

新研究量化了编码AI代理中上下文的物理成本

arXiv上的一篇新研究论文探讨了编码代理中与上下文管理相关的物理成本。该研究引入了一种质量门控协议来衡量这些代理的能源和时间消耗，不仅考虑了节省的提示令牌，还考虑了调用次数和前缀重用。在SWE-rebench V2和SWE-bench数据集上的实验表明，虽然某些缓存和历史压缩策略可以减少模型调用和能源消耗，但其他策略，如删除历史记录，却可能适得其反地增加工作量并导致错过质量门。