对 Model Context Protocol (MCP) 服务器的成本审计显示,工具定义会产生大量的 token 使用量,影响 LLM 上下文窗口的成本。像 Freee 这样的服务器,暴露了许多工具(本例中为 270 种),仅仅是建立连接就会产生可观的 token 费用,这与传统的 REST API 不同。这种开销,按每 100 万输入 token 3 美元计价,对于中度使用的单个用户来说,每年可能超过 6 美元,并且会随着团队规模而扩展,甚至在实际调用任何工具之前就会发生。 AI
影响 突出了 LLM 集成中由于工具定义开销而可能存在的成本效率低下问题,影响了开发人员和企业。
排序理由 对与 LLM 工具定义相关的 token 成本的分析,并非直接的产品发布或推出。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →