上下文工程已成为AI开发中的一个关键学科,其重点在于优化提供给大型语言模型(LLM)的信息,而不仅仅是增加上下文窗口的大小。这种做法涉及仔细选择和构建数据,以确保模型能够获得给定任务最相关的信息,从而提高推理能力、降低延迟并减少成本。采用了诸如语义分块、分层检索和上下文压缩等技术来最大化信号并最小化噪声,确保模型能够有效地利用呈现给它们的信息。 AI
影响 上下文工程对于构建有效的AI代理和生产系统变得至关重要,它超越了提示调优,以优化信息传递,从而提高性能和效率。
排序理由 该集群讨论了一个概念(上下文工程)及其影响,引用了起源和各种技术,但没有宣布新产品或模型发布。
- AI agents
- Context Engineering
- LLM
- Prompt Engineering
- Andrej Karpathy
- Collins English Dictionary
- Shopify
- Simon Willison
- Tobias Lütke
- X
- ChatOpenAI
- Context Compression
- ContextualCompressionRetriever
- GPT-4o
- LangChain
- LLMChainExtractor
- National Inventory of Architectural Heritage
- OpenAI
- Recursive Evidence Replay
- retrieval-augmented generation
- Rope
- Rotary Position Embeddings
- ruler
- Transformer++
AI 生成摘要 · Google Gemini · 来自 7 个来源。 我们如何撰写摘要 →