对 35,633 个 MCP 服务器的最新分析显示,虽然中位数服务器在 token 成本方面相对便宜,但一小部分服务器却消耗了不成比例的大量上下文窗口空间。中位数服务器成本为 2,518 个 token,但由于少数配置极其庞大,平均成本是中位数的三倍多。仅工具定义一项,就有大约 45 个服务器的上下文窗口就超过了 200,000 个 token,其中最大的消耗了 160 万个 token。导致 token 成本如此之高的主要原因是服务器定义的工具数量庞大,而不是单个工具模式的复杂性。 AI
影响 凸显了大型语言模型工具的定义和管理方式可能存在的低效率,影响了上下文窗口的使用和成本。
排序理由 对大量服务器的 token 成本进行分析,呈现了新的数据和发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →