English(EN) v0.22.0rc1: [MRV2][BugFix] Fix KV connector handling in spec decode case (#43719)

vLLM 发布 0.22.0rc1 版本，修复投机解码问题

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-27 07:37

vLLM 发布了 0.22.0rc1 版本，其中修复了投机解码过程中 KV 连接器的处理问题。此版本还解决了与同一问题相关的错误，该错误被标识为拉取请求 #43719。该版本由 Nick Hill 标记，并包含 Wentao Ye 的贡献。 AI

影响 vLLM 的此次更新提高了大型语言模型推理基础设施的稳定性和性能。

排序理由这是一个基础设施工具的软件发布，而不是核心 AI 模型或研究论文。

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

vLLM — Releases TIER_1 English(EN) · njhill · 2026-05-27 07:37

v0.22.0rc1: [MRV2][BugFix] 修复 spec decode 情况下的 KV 连接器处理 (#43719)

<p>Signed-off-by: Nick Hill <a href="mailto:[email protected]">[email protected]</a><br /> Co-authored-by: Wentao Ye <a href="mailto:[email protected]">[email protected]</a><br /> (cherry picked from commit <a class=…