上下文工程是一门新兴学科,它通过管理大型语言模型(LLM)在给定请求中接收到的所有信息来扩展提示工程。这包括指令、检索到的知识、对话历史、工具定义和过去的工具结果。与传统的提示工程不同,上下文工程侧重于通过代码动态地组装这些信息,以确保模型在其上下文窗口内拥有最相关和最简洁的数据。其目标是通过仔细选择、格式化和分配提供的 token 来优化 LLM 的性能,因为过多的或不相关的内容会降低答案质量并增加成本。 AI
影响 这一概念改进了开发人员与 LLM 的交互方式,有可能提高复杂应用中响应的准确性和效率。
排序理由 该条目讨论了 LLM 交互的概念性演变,而不是特定的产品发布或研究突破。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →