NVL72
PulseAugur coverage of NVL72 — every cluster mentioning NVL72 across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
据报道,OpenAI 的芯片在每瓦性能上超越了 NVIDIA Rubin NVL72
据报道,OpenAI 已开发出一款新芯片,其每瓦性能优于 NVIDIA 的最新产品。尽管缺乏特定的解码功能,但据报道 OpenAI 的芯片性能优于 NVIDIA 的 Rubin NVL72,后者包含此类功能。这一发展表明 AI 硬件效率取得了重大进展。
-
SemiAnalysis 发布 AgentX 数据集以用于代理推理
SemiAnalysis 发布了 AgentX,这是一个开源数据集,专为代理推理设计,具有 100 万个 token 的上下文长度和多轮对话能力。该数据集旨在测试 CUDA 在代理推理场景中的主导地位的韧性。它还强调了 GB300 NVL72、MI355 和 Nvidia B200 等硬件配置,表明这些对于此类高级推理任务是相关的。
-
TPU与Mooncake合作进行推理优化
SemiAnalysis报道称,张量处理单元(TPU)正与开源推理优化库Mooncake合作。此次合作旨在将TPU的能力集成到Mooncake Store中,从而提高生产推理的总拥有成本效益。初步实现将利用TENT在横向扩展网络上进行KVCache DRAM P2P池化,而不是使用ICI/NVLink。
-
AI硬件焦点转向能源、供应链和网络
AI硬件格局正在发生重大转变,已超越单纯的GPU,开始关注能源效率、铜等关键矿产的供应链稳定性以及先进的网络能力。前Intel CEO Pat Gelsinger批评了当前GPU架构的能耗和效率低下,OpenAI领导层也对制造和部署限制表达了类似担忧。Nvidia等公司正在进行大规模基础设施投资,而AMD则凭借其集成的Helios AI系统挑战Nvidia的主导地位,该系统拥有更高的计算密度和带宽。
-
Cursor 发布开源 MoE 训练超级内核 Mixture-of-Kittens
Cursor Research 已开源 Mixture-of-Kittens (MoK),这是一个专为 Mixture-of-Experts (MoE) 模型设计的专用训练内核。该超级内核将 MoE 通信和计算融合为单一的确定性过程,据称与现有基线相比,吞吐量提高了 2.37 倍。MoK 针对 NVIDIA GB200 NVL72 机架等高端硬件进行了优化,适用于大规模 AI 模型开发和训练。
-
AI硬件取得进展,新集群上线;开源问题引发讨论
Ineffable Labs 已经采购了首批 Vera Rubin-NVL72 集群,该集群由 Google Cloud 和 NVIDIA 硬件提供支持。此举标志着 AI 硬件实现了代际飞跃,加速了该领域的进步。另外,Clement Delangue 认为开源软件是网络安全危机的解决方案,而非原因。
-
SemiAnalysis称Kimi K3模型的规模和效率将提振AI硬件需求
SemiAnalysis认为,尽管Kimi K3模型采用了线性注意力和较低的KV缓存需求,但它对NVIDIA和更广泛的AI硬件生态系统是有益的。该模型拥有庞大的2.8万亿参数,需要大规模的基础设施,包括NVL72等专用机架,其WideEP优化虽然增加了网络带宽需求,但却是为这类系统设计的。此外,杰文斯悖论表明,AI效率的提高最终将导致更广泛的应用,从而增加对GPU、HBM、DRAM和网络基础设施的需求。
-
SpaceX 提升 AI Sat V1 功率规格以增强计算能力
SpaceX 已提高其 AI Sat V1 卫星的功率规格。在电池辅助下,峰值功率输出已提升至约 250kW,平均功率约为 160kW。这款升级后的卫星将能够支持 NVL72 Ruben 机架。
-
英伟达CEO否认Vera Rubin AI平台延迟,称已“大量”生产
英伟达CEO黄仁勋否认了该公司即将推出的Vera Rubin AI平台生产延迟的说法,并表示该平台已投入生产,将“大量”交付。尽管黄仁勋确认了平台的就绪状态,但有报道称,像Kyber NVL144这样的特定机架规模系统可能会因其PCB中板的制造复杂性而推迟到2028年。英伟达方面表示,尽管存在这些特定的系统级挑战,但其整体产品路线图保持不变。
-
AI价值捕获转移:从基础设施到模型实验室
SemiAnalysis 报告称,AI行业的价值捕获正从基础设施提供商转向模型实验室。虽然 2023-2025 年期间,得益于基础设施的建设,台积电和 NVIDIA 等公司取得了显著增长,但预计 2026 年将由模型开发者主导。这种转变是由软件优化驱动的,软件优化极大地提高了吞吐量,从而大幅压缩了推理成本。例如,Anthropic 的年经常性收入 (ARR) 激增,并且由于这些软件驱动的效率,而不仅仅是价格变动,推理毛利率显著提高。
-
NVIDIA 的 VR NVL72 系统采用无缆设计,配备 Rubin GPU
SemiAnalysis 对 NVIDIA 即将推出的 VR NVL72 系统进行了详细分解,重点介绍了与 GB200 等先前架构相比的重大设计变更。关键创新包括无缆计算托盘设计,用 Paladin HD2 板对板连接器取代传统连接器,以提高可靠性并缩短组装时间。该系统使用 Strata 模块,每个模块包含两个 Nvidia Rubin GPU 和一个 Vera CPU,并配有可插拔的 LPDDR5X 内存。
-
Anthropic 的 Claude 模型现已在 Azure 上运行 NVIDIA Blackwell Ultra GPU
Anthropic 的 Claude 模型现已在 Microsoft Azure 上普遍可用,在 Microsoft Foundry 内运行于 NVIDIA 的 GB300 Blackwell Ultra GPU。此次合作旨在为企业提供增强的计算能力,用于构建和部署自主 AI 代理。该集成支持能够执行跨各种业务领域的复杂任务的专用代理,并通过 NVIDIA Secure Agent Workspace 参考设计专注于安全和治理。
-
NVIDIA Blackwell 平台主导 MLPerf 训练 6.0 基准测试
NVIDIA 的 Blackwell 平台在 MLPerf 训练 6.0 基准测试中创下新纪录,在所有七项测试中均取得最快成绩。该平台展示了强劲的扩展性,拥有多达 8,192 个 GPU 的集群在训练大型语言模型时显示出显著的加速效果。这一性能凸显了高带宽互连(如 NVLink)和低精度计算对于高效大规模 AI 训练的重要性。
-
微软携手富士康上线英伟达Rubin GPU机架
微软已与ODM合作伙伴富士康合作,成功上线了其首个配备英伟达Rubin VR200 GPU的NVL72机架。这标志着微软基础设施建设迈出了重要一步,GPU的晶圆级生产正在进行中。然而,机架级别的全面量产尚未开始。
-
Cerebras将AI机架集成到单个晶圆上,引起Google关注
Cerebras开发了一种新颖的人工智能芯片制造方法,将整个NVL72机架集成到单个晶圆上。该设计通过绕过缺陷并保持所有组件在芯片上,从而绕过了传统的网络瓶颈。据报道,Google AI对这项技术感兴趣,完整故事即将发布。
-
Nvidia 推出 AI 工厂蓝图,GPT-4.1 在真实医疗案例中的准确性下降
Nvidia 发布了经过验证的 AI 数据中心蓝图,详细介绍了从 4 节点到 128 节点集群的配置。这些设计名为 RTX PRO、HGX 和 NVL72,适用于代理 AI 和处理万亿参数模型等高级应用。另外,一项研究表明,像 GPT-4.1 这样的多模态 LLM 在应用于真实医疗案例时,与基准性能相比,准确性显著下降。
-
Nvidia 的 GB300 GPU 推理速度比 GB200 快 2.7 倍
Nvidia 的 GB300 ultra NVL72 在使用 vLLM 项目的引擎进行的推理任务中,展示了比 GB200 NVL72 快 2.7 倍的速度优势。这一性能飞跃超出了基于 GB300 规格的理论预期,其规格包括 NVFP4 FLOPs 和 HBM 容量增加 1.5 倍,同时 HBM 带宽与 GB200 相同。