一种称为上下文填充(Context Hydration)或 MCP 的新方法已被开发出来,以优化合并请求元数据输入大语言模型(LLMs)的方式。该方法通过将复杂的 GraphQL 数据抽象和展平为更紧凑的格式,以适应大语言模型的消费,从而解决了令牌浪费的问题。通过关注必要的运营数据而不是特定于用户界面的呈现细节,该技术显著减小了数据大小,将上下文窗口消耗减少了约 40%,并提高了 GitLab Duo 等人工智能代理的效率。 AI
影响 优化与代码相关的任务的大语言模型上下文窗口使用,可能提高人工智能驱动的开发人员工具的效率并降低成本。
排序理由 此条目描述了用于人工智能数据消费的技术实现细节和工具改进,而不是新的模型发布或重大的行业事件。
- ActiveRecord::QueryRecorder
- GitLab
- GitLab Duo
- GraphQL
- Issue #639870
- LLM
- Model Context Protocol
- MR !270521
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →