H200s
PulseAugur coverage of H200s — every cluster mentioning H200s across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
SambaNova's strategy of optimizing existing hardware with new GPUs may lead to cost-effective AI solutions
SambaNova's focus on integrating NVIDIA H200 GPUs with their existing SN50 RDUs, rather than solely relying on new chip development, suggests a strategy aimed at providing more cost-effective AI inference solutions. This approach could appeal to businesses looking to enhance performance without the highest upfront hardware investment.
SambaNova's H200 integration yields significant benchmark improvements
SambaNova Systems has demonstrated substantial performance gains by integrating NVIDIA H200 GPUs with their SN50 RDUs. This heterogeneous approach achieved 763 tokens/sec on MiniMax M2.7 benchmark, and a subsequent partnership with MiniMax AI pushed this to 850 tokens/sec on short-context workloads. This indicates a strong synergy between SambaNova's architecture and NVIDIA's latest hardware for AI inference.
MiniMax AI M2.7 model shows record inference speeds with SambaNovaAI partnership
MiniMax AI's M2.7 model has achieved world-record inference speeds, reaching 850 tokens/sec on short-context and 450 tokens/sec on long-context workloads when paired with SambaNovaAI's H200s and SN50 RDUs. This performance, benchmarked by Artificial Analysis, highlights the effectiveness of this specific hardware combination for demanding AI tasks.
-
MiniMax AI M2.7 凭借 SambaNovaAI 实现创纪录的推理速度
MiniMax AI 宣布其 M2.7 模型在速度上取得显著提升，创下了新的推理速度世界纪录。与 SambaNovaAI 合作，该模型在短上下文工作负载下达到了每秒 850 个 token，在长上下文工作负载下达到了每秒 450 多个 token。此性能由 Artificial Analysis 基准测试，并通过将 SambaNovaAI 的 H200 用于预填充和 SN50 RDUs 用于解码来实现。
-
Red Hat 通过新的付费附加组件为 RHEL 提供“永久”支持
Red Hat 正在为 Red Hat Enterprise Linux (RHEL) 推出新的“Long-Life Add-On”，只要客户愿意付费，就可以为特定版本提供无限期的延长支持。此举旨在为需要维护遗留系统或避免频繁升级的组织提供稳定性。该产品被定位为那些需要对特定 RHEL 版本进行长期承诺的用户的解决方案。
-
OpenAI 增强 ChatGPT，SpaceXAI 重塑 Grok，AI 硬件迎来创新 · 追踪 1 个来源
OpenAI 增强了 ChatGPT，推出了一项名为 GPT-Live 的新功能，能够同时进行说话、倾听和回答的制定，从而实现更自然的对话。与此同时，SpaceXAI（前身为 X.AI）正在重塑其 Grok 模型，使其看起来更专业，更适合法律和分析任务。在硬件领域，英特尔支持的 SambaNova 通过将旧款 NVIDIA GPU 与其 SN50 RDU 集成，实现了性能提升，使用 MiniMax M2.7 模型达到了每秒 763 个…
-
新加坡淡马锡看好人工智能投资前景 · 追踪到2个来源
新加坡主权财富基金淡马锡控股公司认为，人工智能将是未来投资和增长的重要领域。尽管推理服务的商品化程度日益提高，但该基金仍看好人工智能作为具有强劲回报潜力的行业。淡马锡的展望表明，将继续关注人工智能在各行业的开发和应用。
-
SambaNova集成NVIDIA GPU以提升AI基准测试表现 · 跟踪1个来源
SambaNova Systems通过将其SN50 RDU与NVIDIA的H200 GPU集成，展示了性能的提升，在MiniMax M2.7基准测试中达到了每秒763个token。这种异构计算方法旨在提高效率并可能降低AI推理的成本。该公司的战略侧重于优化现有硬件，而不是仅仅依赖新芯片开发，从而在不断发展的AI市场中将其定位为一种经济高效的解决方案。
-
GLM 5.2 模型现已通过量化在消费级硬件上运行
拥有 7530 亿参数和 100 万 token 上下文窗口的 GLM 5.2 模型现已可用于在消费级硬件上本地部署。虽然完整模型需要超过 1.5 TB 的存储空间，但量化版本可在至少拥有 256 GB RAM 的机器上运行。在 256 GB Mac Studio 或类似配置的强大 GPU 上运行 2 位量化模型是可行的，但性能可能限制在每秒 3-9 个 token。为了获得最佳质量和速度，建议使用 512 GB 系统运行 4 位量化…
-
Together Compute 扩展 GPU 产品线，新增 H100、H200 和 B200
Together 是一家推理和开源人工智能公司，已显著扩展其按需计算平台。该公司宣布在其基础设施中增加了大量的 H100、H200 以及更新的 B200 等高端 GPU。