对四个流行的本地 LLM 运行时——Ollama、llama.cpp、vLLM 和 SGLang——的最新分析显示，它们在支持各种模型系列的工具调用方面存在不一致。虽然这些运行时总共提供了 136 个命名的工具调用解析器，但在所有四个运行时中，只有 8 个支持的模型系列拥有专用的解析器。这些解析器的文档通常滞后于代码更新，许多解析器出现在代码中但未出现在官方文档中。 AI
影响 本地 LLM 运行时中不一致的解析器支持可能会阻碍代理和工具在用户机器上的可靠部署。
排序理由 对本地 LLM 运行时的软件组件（解析器）的分析。[lever_c_demoted from research: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
