Moonshot的一项新分析显示,为同一K2模型提供服务的15家不同提供商在工具调用准确率方面存在显著差异。尽管底层模型权重完全相同,但性能差异(准确率在84.63%至100%之间)归因于部署和工程方面的差异,而非模型缺陷。该研究强调了两个关键指标:tool_call_f1,衡量调用工具的决策;以及schema_accuracy,评估传递给工具的参数的有效性。分析指出,每次调用准确率的微小差异在会话中会被放大,从而影响代理的性能。 AI
影响 凸显了部署基础设施在大型语言模型性能中的关键作用,影响代理的可靠性。
排序理由 对不同部署提供商的模型性能进行分析。[lever_c_demoted from research: ic=1 ai=1.0]
- Baseten
- DeepInfra
- Fireworks
- Groq
- K2
- Moonshot
- Nebius Group
- SGLang
- SiliconFlow
- Together
- tool calling
- vLLM
- volcano
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →