SambaNova Systems通过将其SN50 RDU与NVIDIA的H200 GPU集成,展示了性能的提升,在MiniMax M2.7基准测试中达到了每秒763个token。这种异构计算方法旨在提高效率并可能降低AI推理的成本。该公司的战略侧重于优化现有硬件,而不是仅仅依赖新芯片开发,从而在不断发展的AI市场中将其定位为一种经济高效的解决方案。 AI
影响 通过结合现有硬件优化AI推理成本,可能降低先进AI应用的入门门槛。
排序理由 文章讨论了公司的产品集成和性能基准测试,而非新的前沿模型发布或重大的行业范围事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →