K2-0905

vLLM 工具调用失败与默认服务器设置有关，已有修复方案

vLLM 的工具调用功能中一个常见的问题，尤其是在使用 Kimi K2.6 或 DeepSeek 等模型时，源于默认的服务器配置，该配置会导致大量无效的 JSON 输出。Ubicloud 的测试显示，vLLM 默认情况下，对于符合 schema 的工具调用，准确率仅为 92%，这严重影响了多步代理流程。许多工具定义中缺乏“strict”参数，导致 vLLM 无法强制执行 schema 遵从性，加剧了这个问题。通过 vLLM 0.31 …