实体
Model Runner V2
Model Runner V2
PulseAugur coverage of Model Runner V2 — every cluster mentioning Model Runner V2 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
4
90 天内 4
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 4 条
-
vLLM 发布 v0.31.0rc3，支持新的虚拟输入
vLLM 发布了 0.31.0rc3 版本，在其 Model Runner V2 中引入了对随机虚拟输入的支持。此版本包括 Robert Shaw、Nick Hill 的贡献，以及一个引用 Claude Opus 5.5 的合著提交。
-
vLLM 更新至 Model Runner V2，DeepSeek 降价
最新的AI简报重点介绍了开源AI领域的多项更新。vLLM已更新至0.29.0版本，现在默认使用其Model Runner V2。此外，DeepSeek宣布降低其模型价格，预示着市场竞争激烈。
-
vLLM 0.29.0 默认所有模型使用 Model Runner V2
vLLM 项目发布了 0.29.0 版本，该版本现在默认使用 Model Runner V2 (MRV2) 来支持所有模型。此更改简化了内部执行流程，以增强内存处理和运行时效率，使运行本地推理或高吞吐量生产服务集群的用户受益。建议依赖旧版运行器钩子的自定义集成或高度定制化分支的开发者在升级前测试兼容性。
-
vLLM v0.25.0 推出 Model Runner V2，增强本地 LLM 推理能力
vLLM 项目发布了 0.25.0 版本，将 Model Runner V2 作为密集模型的默认选项，增强了量化支持，从而实现更高效的本地 LLM 推理。此次更新旨在提高吞吐量和降低延迟，使在消费级硬件上运行复杂的开源模型更加容易。此外，Ollama v0.32.5 已发布，修复了影响 Apple Silicon 上 NVFP4 模型输出质量的错误，确保了 macOS 设备上本地推理的可靠性。