vLLM 项目发布了 0.27.0 版本，其中包括一项更新，为张量处理单元（TPU）禁用了 kimi_vit 的动态 torch.compile。此版本由 Linkun Chen 签发，是从之前的提交中挑选出来的。 AI
影响 此次更新可能会提高 vLLM 在张量处理单元上的用户性能。
排序理由 这是一个基础设施工具的软件发布，而不是前沿模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
vLLM 发布 0.27.0 版本，优化 TPU 支持
本文如何被排名
- Signal score
- 0 / 100
- Composite score across the factors below. Higher = stronger signal that this story matters right now.
- Newsworthiness bucket
- Tool
- 这是一个基础设施工具的软件发布，而不是前沿模型发布或重要的行业事件。
- Source corroboration
- Single-source cluster
- Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
- Topics
- infra
- Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
- AI-industry relevance
- High
- Clearly on-topic for AI-industry coverage.
- Story freshness
- 60 days old
- Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.
完整方法见我们的编辑标准。
报道来源 [1]
-
v0.27.0: [Kimi][MM] 禁用 kimi_vit 的动态 torch.compile 以支持 TPU (#51196)
<p>Signed-off-by: Linkun Chen <a href="mailto:[email protected]">[email protected]</a><br /> (cherry picked from commit <a class="commit-link" href="https://github.com/vllm-project/vllm/commit/7f58e8294a19eab37011c21c8da981206ca3849e"><tt>7f58e82</tt></a>)</p>