NVL72
PulseAugur coverage of NVL72 — every cluster mentioning NVL72 across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
SemiAnalysis 提出新的 GPU 集群租赁 SLA 以提高可靠性
SemiAnalysis 正在提出 GPU 集群租赁的新的服务水平协议 (SLA) 条款,重点关注正常运行时间和故障赔偿的明确定义。拟议的 SLA 旨在确保准确衡量恢复的容量,并使提供商能够高效地处理硬件故障。这包括详细的监控仪表板、基于硬件故障类型的适当恢复计划以及对恢复容量的验证。
-
CoreWeave 部署 NVIDIA Vera Rubin 系统,Cognition 报告速度提升 4.8 倍
CoreWeave 已开始部署 NVIDIA Vera Rubin NVL72 系统,并向客户提供。AI 公司 Cognition 报告称,使用这些新系统在工程任务上实现了 4.8 倍的更高代币吞吐量,性能显著提升。
-
AI互联需求激增,重塑铜缆与光纤之争
对AI基础设施的需求正在推高对高速互联的需求,促使Astera Labs等公司开发能够处理GPU之间增加的数据交换的解决方案。这导致了对铜缆与光纤互联的重新评估,传输速率、规模和功耗等因素变得至关重要。随着AI的普及,焦点正从简单的数据传输速度转向优化整体系统的Token成本和性能,尤其是在推理市场兴起和AI系统日益定制化的背景下。
-
Together 利用 Nvidia Rubin GPU 的新功能优化推理 · 跟踪 4 个来源
Together 宣布了其推理和 OSS 能力的进步,利用了 Nvidia Rubin GPU 的新功能。该公司已更新其 b200 gemms 以整合 Rubin 更宽的 MMA 步长、增加的张量和共享内存以及 B 侧收集器。这些优化带来了显著的性能提升,其 16k nvfp4 gemm 达到了 22.4 pflops,ThunderKittens 在新硬件上实现了具有竞争力的速度。
-
英伟达与Palantir合作优化AI驱动的供应链 · 追踪4个来源
英伟达(Nvidia)与Palantir已达成合作,利用AI优化供应链运营,英伟达自身复杂的百万部件供应链将作为首个试点案例。此次合作将利用Palantir Foundry进行数据建模,并使用cuOpt(一个开源库)进行混合整数线性规划,以管理部件分配并最大限度地缩短交付时间。此外,英伟达还整合了其Nemotron 3.5 Lightning模型的预训练版本,以纳入非结构化运营数据,显著提高了供应链分配的决策准确性。
-
据报道,OpenAI 的芯片在每瓦性能上超越了 NVIDIA Rubin NVL72
据报道,OpenAI 已开发出一款新芯片,其每瓦性能优于 NVIDIA 的最新产品。尽管缺乏特定的解码功能,但据报道 OpenAI 的芯片性能优于 NVIDIA 的 Rubin NVL72,后者包含此类功能。这一发展表明 AI 硬件效率取得了重大进展。
-
SemiAnalysis 发布 AgentX 数据集以用于代理推理
SemiAnalysis 发布了 AgentX,这是一个开源数据集,专为代理推理设计,具有 100 万个 token 的上下文长度和多轮对话能力。该数据集旨在测试 CUDA 在代理推理场景中的主导地位的韧性。它还强调了 GB300 NVL72、MI355 和 Nvidia B200 等硬件配置,表明这些对于此类高级推理任务是相关的。
-
TPU与Mooncake合作进行推理优化
SemiAnalysis报道称,张量处理单元(TPU)正与开源推理优化库Mooncake合作。此次合作旨在将TPU的能力集成到Mooncake Store中,从而提高生产推理的总拥有成本效益。初步实现将利用TENT在横向扩展网络上进行KVCache DRAM P2P池化,而不是使用ICI/NVLink。
-
AI硬件焦点转向能源、供应链和网络
AI硬件格局正在发生重大转变,已超越单纯的GPU,开始关注能源效率、铜等关键矿产的供应链稳定性以及先进的网络能力。前Intel CEO Pat Gelsinger批评了当前GPU架构的能耗和效率低下,OpenAI领导层也对制造和部署限制表达了类似担忧。Nvidia等公司正在进行大规模基础设施投资,而AMD则凭借其集成的Helios AI系统挑战Nvidia的主导地位,该系统拥有更高的计算密度和带宽。
-
Cursor 发布开源 MoE 训练超级内核 Mixture-of-Kittens
Cursor Research 已开源 Mixture-of-Kittens (MoK),这是一个专为 Mixture-of-Experts (MoE) 模型设计的专用训练内核。该超级内核将 MoE 通信和计算融合为单一的确定性过程,据称与现有基线相比,吞吐量提高了 2.37 倍。MoK 针对 NVIDIA GB200 NVL72 机架等高端硬件进行了优化,适用于大规模 AI 模型开发和训练。
-
AI硬件取得进展,新集群上线;开源问题引发讨论
Ineffable Labs 已经采购了首批 Vera Rubin-NVL72 集群,该集群由 Google Cloud 和 NVIDIA 硬件提供支持。此举标志着 AI 硬件实现了代际飞跃,加速了该领域的进步。另外,Clement Delangue 认为开源软件是网络安全危机的解决方案,而非原因。
-
SemiAnalysis称Kimi K3模型的规模和效率将提振AI硬件需求
SemiAnalysis认为,尽管Kimi K3模型采用了线性注意力和较低的KV缓存需求,但它对NVIDIA和更广泛的AI硬件生态系统是有益的。该模型拥有庞大的2.8万亿参数,需要大规模的基础设施,包括NVL72等专用机架,其WideEP优化虽然增加了网络带宽需求,但却是为这类系统设计的。此外,杰文斯悖论表明,AI效率的提高最终将导致更广泛的应用,从而增加对GPU、HBM、DRAM和网络基础设施的需求。
-
SpaceX 提升 AI Sat V1 功率规格以增强计算能力
SpaceX 已提高其 AI Sat V1 卫星的功率规格。在电池辅助下,峰值功率输出已提升至约 250kW,平均功率约为 160kW。这款升级后的卫星将能够支持 NVL72 Ruben 机架。
-
英伟达CEO否认Vera Rubin AI平台延迟,称已“大量”生产
英伟达CEO黄仁勋否认了该公司即将推出的Vera Rubin AI平台生产延迟的说法,并表示该平台已投入生产,将“大量”交付。尽管黄仁勋确认了平台的就绪状态,但有报道称,像Kyber NVL144这样的特定机架规模系统可能会因其PCB中板的制造复杂性而推迟到2028年。英伟达方面表示,尽管存在这些特定的系统级挑战,但其整体产品路线图保持不变。
-
AI价值捕获转移:从基础设施到模型实验室
SemiAnalysis 报告称,AI行业的价值捕获正从基础设施提供商转向模型实验室。虽然 2023-2025 年期间,得益于基础设施的建设,台积电和 NVIDIA 等公司取得了显著增长,但预计 2026 年将由模型开发者主导。这种转变是由软件优化驱动的,软件优化极大地提高了吞吐量,从而大幅压缩了推理成本。例如,Anthropic 的年经常性收入 (ARR) 激增,并且由于这些软件驱动的效率,而不仅仅是价格变动,推理毛利率显著提高。
-
NVIDIA 的 VR NVL72 系统采用无缆设计,配备 Rubin GPU
SemiAnalysis 对 NVIDIA 即将推出的 VR NVL72 系统进行了详细分解,重点介绍了与 GB200 等先前架构相比的重大设计变更。关键创新包括无缆计算托盘设计,用 Paladin HD2 板对板连接器取代传统连接器,以提高可靠性并缩短组装时间。该系统使用 Strata 模块,每个模块包含两个 Nvidia Rubin GPU 和一个 Vera CPU,并配有可插拔的 LPDDR5X 内存。
-
Anthropic 的 Claude 模型现已在 Azure 上运行 NVIDIA Blackwell Ultra GPU
Anthropic 的 Claude 模型现已在 Microsoft Azure 上普遍可用,在 Microsoft Foundry 内运行于 NVIDIA 的 GB300 Blackwell Ultra GPU。此次合作旨在为企业提供增强的计算能力,用于构建和部署自主 AI 代理。该集成支持能够执行跨各种业务领域的复杂任务的专用代理,并通过 NVIDIA Secure Agent Workspace 参考设计专注于安全和治理。
-
NVIDIA Blackwell 平台主导 MLPerf 训练 6.0 基准测试
NVIDIA 的 Blackwell 平台在 MLPerf 训练 6.0 基准测试中创下新纪录,在所有七项测试中均取得最快成绩。该平台展示了强劲的扩展性,拥有多达 8,192 个 GPU 的集群在训练大型语言模型时显示出显著的加速效果。这一性能凸显了高带宽互连(如 NVLink)和低精度计算对于高效大规模 AI 训练的重要性。
-
微软携手富士康上线英伟达Rubin GPU机架
微软已与ODM合作伙伴富士康合作,成功上线了其首个配备英伟达Rubin VR200 GPU的NVL72机架。这标志着微软基础设施建设迈出了重要一步,GPU的晶圆级生产正在进行中。然而,机架级别的全面量产尚未开始。
-
Cerebras将AI机架集成到单个晶圆上,引起Google关注
Cerebras开发了一种新颖的人工智能芯片制造方法,将整个NVL72机架集成到单个晶圆上。该设计通过绕过缺陷并保持所有组件在芯片上,从而绕过了传统的网络瓶颈。据报道,Google AI对这项技术感兴趣,完整故事即将发布。