一项新的分析探讨了在AI代理中使用MCP(Meta-Client Protocol)进行工具发现所产生的代币成本,并与预先定义工具清单进行了比较。研究发现,实时发现的往返成本几乎为零,但所选工具的定义在每次模型调用时都会消耗大量的上下文代币。成本随着工具数量和描述的详细程度呈线性增长,详细描述的成本远高于简洁描述。对于涉及许多工具的任务,精心挑选一个较小、相关的子集可以带来可观的节省,尽管MCP提供了诸如域拆分或按需定义加载等替代方案。 AI
影响 了解工具定义的代币成本可以为代理设计提供信息,并优化LLM上下文窗口的使用。
排序理由 对AI代理工具发现机制的代币成本进行分析。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →