关于上下文工程的一次研讨会揭示了关于AI代理性能和成本的令人惊讶的发现。实验表明，聊天历史并不是上下文窗口使用的主要驱动因素；相反，旧的检索和工具输出占用了大量空间，有时将使用量推向200k Token。在摘要化之前优化缓存经济性以及在重写之前缩小上下文被确定为降低成本和保持记忆质量的关键策略。研究还强调了测试特定能力的重要性，因为通用的质量评估未能检测到对话早期信息丢失的情况。 AI
影响 通过解决检索和工具输出的使用问题，优化上下文管理可以显著降低AI代理成本并提高性能。
排序理由 AI上下文工程研讨会的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
