vLLM 项目已发布 0.33.0rc3 版本,其中包含来自 389 位贡献者(包括 122 位新贡献者)的 927 次提交。此版本引入了 Reflection Beam-1.0 模型,这是一个拥有 5010 亿参数的专家混合(MoE)模型。 AI
影响 此版本提供了一个新的开源模型以及对 vLLM 推理引擎的更新,可能提高 AI 开发者的性能和可访问性。
排序理由 发布了一个新的开源模型和软件版本。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →