vLLM 发布了 0.33.0rc1 版本,其中包含对 DGX Spark 上过时的 NVFP4 解码测试选择器的修复。此版本由 grYe99 标记,是从提交 bfa2a433453675b0c7abcb5df163fd5e59ffe2a3 中挑选出来的。 AI
影响 对一个开源 LLM 推理框架的次要更新,主要解决了特定的测试选择器问题。
排序理由 这是一个开源推理引擎的次要版本发布,不是前沿模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →