将工具暴露给AI模型(例如在MCP服务器中)会在每次API调用时产生显著的令牌成本。此成本的产生是因为工具的名称、描述和JSON模式会反复发送到模型的上下文中。工具数量越多,不仅会增加令牌账单,还会对模型选择正确工具的准确性产生负面影响。为了解决这个问题,开发了一个新的CLI工具,使开发人员能够看到这些隐藏的成本。 AI
影响 开发人员需要注意暴露AI工具相关的令牌成本,因为它会影响费用和性能。
排序理由 该项目讨论了在AI系统(MCP服务器)中管理工具的技术细节,这是一个产品/基础设施问题。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →