MiniMax AI 的 M3 模型现已在 NVIDIA 的 Vera Rubin NVL72 基础设施上运行,并采用了 vLLM 框架。据报道,与在 AgentX 基准测试中的 GB200 相比,此次集成使吞吐量增加了 7.8 倍以上。此项开发是 MiniMax AI、vLLM、Inferactive、NVIDIA AI 和 Red Hat AI 合作的成果。 AI
影响 MiniMax M3 在 NVIDIA Vera Rubin NVL72 上的此次基础设施升级展示了显著的性能提升,可能影响未来大型语言模型的硬件和软件优化策略。
排序理由 这是现有模型在新基础设施上的部署和性能更新,并非新的模型发布或研究突破。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →