对来自MCP服务器的34,374个工具列表的最新分析显示,由于token使用量,存在显著的成本影响。虽然中位数服务器只使用8个工具,但平均使用量为18.5个,少数服务器列出了数百个工具和定义,每个工具和定义都可能消耗数千个token。这种广泛的token使用量会伴随每一次模型请求,可能导致巨大的成本,特别是对于拥有多个服务器的客户。诸如提示缓存、按需加载定义和优化定义大小等策略可以帮助减轻这些费用。 AI
影响 工具列表中的高token使用量会增加AI应用程序的运营成本,促使开发人员优化定义和缓存策略。
排序理由 对MCP服务器工具列表的token成本进行分析。[lever_c_demoted from research: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →