vLLM 发布了 0.24.0rc1 版本，其中包括对 SM75 硬件上 topk 直方图构建的修复。此版本是一个发布候选版本，表明它是稳定版本发布前用于测试和反馈的预生产版本。 AI
影响 对开源推理引擎的次要更新，主要解决了特定的硬件兼容性问题。
排序理由 这是开源推理引擎的一个次要发布候选版本，而不是重大的新产品或前沿模型发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
vLLM 发布 0.24.0rc1 版本，修复硬件构建问题
报道来源 [1]
-
v0.24.0rc1: [CI/Build] Fix topk histogram build on SM75 (#46550)
<p>Signed-off-by: Mohammad Miadh Angkad <a href="mailto:[email protected]">[email protected]</a><br /> (cherry picked from commit <a class="commit-link" href="https://github.com/vllm-project/vllm/commit/191826ec612dc6648b176ed4e…