“上下文工程”的概念正成为有效利用大型语言模型（LLM）的关键技能，它超越了简单的提示工程。这涉及到仔细管理输入到LLM上下文窗口的信息，以优化性能、降低成本并最小化延迟。对于在思考-行动-观察循环中运行的代理来说，管理上下文尤为重要，因为每一步，包括工具定义和响应，都会消耗token。文章强调，LLM API本质上是无状态的，需要在每个回合重新发送整个对话历史，这使得高效的上下文管理至关重要。 AI
影响 上下文工程正成为优化LLM性能和成本的关键，特别是对于复杂的代理系统。
排序理由 文章讨论了LLM使用方面的新兴概念和技术，而不是特定的产品发布或研究突破。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
