PulseAugur
中
实时 02:00:05
English(EN) vLLM 0.33, Plainly: CUDA 13, Model Runner V2, and What Breaks on Upgrade

vLLM 0.33.0 要求使用 CUDA 13，采用 Model Runner V2，并提升速度

作者 PulseAugur 编辑部 · [1 个来源] ·

vLLM 发布了 0.33.0 版本，引入了重大变更，需要用户注意以确保顺利升级。该版本强制要求使用 CUDA 13.0，不再支持旧版本，并需要更新驱动程序。一个主要变化是完全采用 Model Runner V2 作为默认执行引擎，集成了自动 KV 缓存大小调整和批次分片采样等功能。虽然该版本移除了对 Medusa、MLP 预测器和旧版 Ray 执行器的支持，但通过调度器优化，它也带来了显著的性能提升，在不改变底层内核的情况下，输出令牌/秒的速度提高了 2.47 倍。 AI

影响 需要用户更新基础设施，可能提高 LLM 部署的服务效率并降低延迟。

排序理由 这是一个基础设施组件（vLLM）的软件发布，影响模型服务，而不是新的前沿模型发布或核心研究。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

vLLM 0.33.0 要求使用 CUDA 13，采用 Model Runner V2，并提升速度

本文如何被排名

Signal score
4 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
这是一个基础设施组件（vLLM）的软件发布，影响模型服务，而不是新的前沿模型发布或核心研究。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Same-day
Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Daniel Sam Pete Thiyagu ·

    vLLM 0.33，直白地说：CUDA 13、Model Runner V2 以及升级时会发生什么故障

    <p>vLLM 0.33.0 shipped on November 2, 2026 — 927 commits from 389 contributors — and the headline is not a model. It is a platform break: the wheels and Docker images are CUDA 13.0 only, PyTorch moves to 2.14.0, and three things your deployment may depend on are deleted outright.…

相关实体

相关话题