GB300 NVL72
PulseAugur coverage of GB300 NVL72 — every cluster mentioning GB300 NVL72 across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
NVIDIA 和 Microsoft 将 AI 合作扩展到 Azure 和 Windows PC
NVIDIA 和 Microsoft 正在深化合作,将加速计算和 AI 功能带到更广泛的应用中。此次合作从 Azure 云基础设施扩展到 Windows PC,使组织能够更有效地构建和部署智能应用程序。关键进展包括通过 Microsoft Foundry 增强对 NVIDIA 硬件和开放模型的访问,改进边缘 AI,以及在机密计算方面取得进展,以保护敏感数据和模型。
-
Lambda集成NVIDIA Photonics,打造更快、更具韧性的AI工厂
Lambda正在通过集成NVIDIA Photonics共封装光学(CPO)交换机来增强其AI工厂基础设施。此次升级旨在提高大规模AI模型训练的速度、效率和韧性。该部署连接了超过10,000个GPU,将网络延迟降低了高达10%,并与传统网络解决方案相比,提供了显著更好的能效和可靠性。
-
NVIDIA Vera Rubin 平台在 MLPerf AI 训练和推理基准测试中领先
NVIDIA 在最新的 MLPerf 训练和终端 AI 模型基准测试中均取得了最佳性能。其新的 Vera Rubin 平台首次亮相即横扫所有 MLPerf Training v6.1 基准测试,并在 MLPerf Endpoints 的 agentic AI 每瓦吞吐量方面展示了超过 10 倍的代际提升。这种性能在各种 AI 模型和大规模系统上得到展示,系统使用了多达 10,240 块 NVIDIA GPU。
-
dev.to帖子认为,AI路由更改需要30个已关闭的发现才能获得信任
dev.to上的一篇讨论文章探讨了AI路由更改的性能指标的可靠性,特别是关于DeepSeek V4.1 Flash等模型。作者认为,中位数等统计数据在数据点(发现)数量很少时非常不稳定。例如,只有五个已关闭的发现时,一次从成功到失败的转变就会极大地改变成功率,使其不可靠,无法用于决策。该帖子建议在信任任何路由更改之前,至少需要30个已关闭的发现,认为这一阈值提供了更稳定、更有意义的指标。
-
Inkling 2 Small 多模态 MoE 模型在 Tinker 上发布,预计将发布 Apache 权重
Thinking Machines Lab 发布了 Inkling 2 Small,这是一款多模态混合专家(MoE)模型,可在 Tinker 平台上使用。该模型拥有 594B 的总参数量和 17B 的激活参数,并支持 256K 的上下文窗口。虽然目前权重是闭源的,但该实验室计划在安全测试后于下周根据 Apache 2.0 许可证发布。
-
Crusoe推出模块化AI数据中心单元,加速产能部署
Crusoe推出了其第六代模块化数据中心平台Spark Liquid单元,旨在加速AI基础设施的部署。这一工厂预制解决方案通过提供更快的AI产能途径,解决了电力和建设延迟问题,支持Nvidia的GB300 NVL72和Vera Rubin NVL72等高密度机架的直接液冷。该公司旨在实现比前几代高五倍的计算密度,并计划于2027年在科罗拉多州投产。
-
Oracle 和 NVIDIA 合作打造兆瓦级 AI 超级集群 · 跟踪 2 个来源
Oracle 和 NVIDIA 正在合作,在 Oracle Cloud Infrastructure (OCI) 内构建大规模 AI 超级集群。这些集群将配备 NVIDIA 最新的 Vera Rubin NVL72 系统,旨在为训练和推理 AI 模型提供巨大的计算能力,并支持 AI 代理。此次扩建计划包括多达 150,000 个 NVIDIA Vera CPU 和先进的网络连接,以连接数十万个 GPU,目标是显著扩展 AI 能力。
-
NVIDIA SGLang Rubin GPU 每美元性能优势达 4.23 倍
SemiAnalysis 报道称,NVIDIA 的 SGLang 推理引擎在使用 Rubin NVL72 GPU 时,相比 GB300 NVL72 展现出显著的性能和成本优势。SGLang 引擎与 Qwen3.8 Flash Next 180B 模型集成,与前代产品相比,每美元性能提高了 4.23 倍。这一进步通过在较小模型上的预览提交得到突出,预计未来提交中将包含 GLM5.3 系列等更大模型。
-
NVIDIA 详解AI工厂战略以实现投资回报最大化
NVIDIA 正在详细介绍其构建旨在实现投资回报最大化的AI工厂的战略,重点关注生产力、耐用性和可互换性。这些工厂旨在通过提供高吞吐量和低每token成本来最大化盈利能力,通过耐用的硬件和软件优化来延长其使用寿命,并通过支持广泛的AI和非AI工作负载来扩大需求。该公司强调,Vera Rubin NVL72系统等AI硬件和软件的进步显著提高了效率并降低了成本,进而推动了对AI计算需求的增长。
-
英伟达CEO黄仁勋被指低估硬件性能
SemiAnalysis的一份报告声称,英伟达CEO黄仁勋大幅低估了其新硬件的性能。黄仁勋在GTC 2026上表示,Rubin NVL72的每瓦性能将比GB300 NVL72提高3倍,但SemiAnalysis自己的测试表明,每瓦性能的提升幅度为7倍。
-
NVIDIA Vera Rubin NVL72 系统在 MLPerf Inference v6.1 性能测试中首次亮相并取得领先
NVIDIA 宣布其新的 Vera Rubin NVL72 系统在 MLPerf Inference v6.1 基准测试中取得了领先性能。该系统在 Qwen3-VL 和 DeepSeek-R1 等要求严苛的模型上,吞吐量比前代 GB300 NVL72 高出 3.7 倍。这一性能归功于跨硬件和软件的全栈协同设计,包括增强的 Tensor Cores、Transformer Engine 和优化的互连。NVIDIA 还强调了该系统高效的扩…
-
GB300 NVL72 在代理推理方面提供比 Hopper 每美元高出 13 倍的性能
SemiAnalysis 报告称,GB300 NVL72 采用创新的铜背板和 NVLink,在代理推理方面比 NVIDIA 的 Hopper 架构实现了每美元 13 倍的性能提升。这种先进的设计实现了 72 个 GPU 的大规模扩展域,远大于 Hopper 的 8 个,从而能够实现 vLLM 的宽专家并行等优化。
-
AI机架密度受限于电力和散热,而非芯片
AI服务器机架的密度日益受到电力输送和散热基础设施的限制,而非芯片数量。随着NVIDIA的GB300 NVL72和Vera Rubin NVL72等AI硬件将每机架的功耗推高至142千瓦,甚至可能高达230千瓦,传统的风冷在超过50千瓦后变得不切实际。直接到芯片的液冷可以处理高达150千瓦的功耗,但最终的上限正由电气工程和故障规划设定,传统的54 VDC电力分配系统在约200千瓦时达到极限。
-
Cursor 的 MoK 重新定义 MoE 执行,优化 GPU 内核以加速 AI 训练
Cursor 开发并开源了 Mixture-of-Kittens (MoK),这是一个旨在优化 Mixture-of-Experts (MoE) 模型执行的新软件层。MoK 通过将 token 调度、GPU 间通信和专家计算集成到单个 GPU 内核中来解决效率低下问题。这种方法旨在降低延迟,特别是在大规模 MoE 训练中,通信瓶颈会阻碍性能,尽管 NVIDIA 的 Blackwell GPU 和 NVLink 等硬件有所进步。这项创新…
-
GPU租金上涨,AI基础设施的复杂性超过了标准化进程
即使是像NVIDIA H100这样的老款GPU,其租金也未如预期般下降,原因在于AI任务所需的复杂系统。与传统计算不同,AI工作负载高度依赖GPU与高速网络、存储和软件的集成才能高效运行。这种复杂的系统设计,常被称为“超级节点”,意味着AI计算的性能和成本不仅取决于GPU本身,还取决于整个基础设施维持高利用率和最大限度减少这些昂贵资产空闲时间的能力。
-
Nvidia Vera Rubin 通过异构系统架构将 Agent 通量提升 30 倍 · 跟踪到 1 个来源
Nvidia 正在为其 Vera Rubin NVL72 系统优化 Agent 工作负载,与前几代相比,每兆瓦的吞吐量提高了高达 30 倍。这一性能提升并非完全归功于更快的 GPU,也源于一种异构计算方法,该方法将 Agent 任务分配给专用硬件。该系统现在集成了 Vera Rubin GPU 用于大型模型计算,Groq 3 LPX 用于低延迟 token 生成,Vera CPU 用于工具编排和数据处理,以及 Spectrum-X 网…
-
NVIDIA推出NVLink Fusion,将定制XPUs集成到AI工厂
NVIDIA推出了NVLink Fusion技术,旨在将定制设计的XPUs(eXponential Processing Units)与NVIDIA现有的AI基础设施集成。该解决方案旨在通过提供成熟、高性能的网络和机架级架构来加速AI工厂的开发和部署。NVLink Fusion利用NVLink技术实现加速器之间的高带宽、低延迟通信,并利用NVLink-C2C与CPU进行高效集成,从而降低了构建专业AI硬件的公司的运营风险和上市时间。
-
NVIDIA Vera Rubin NVL72 将 AI 代理效率提升 30 倍,通过与联发科的交易扩展生态系统 · 跟踪 10 个来源
NVIDIA 推出了其 Vera Rubin NVL72 系统,据报道,与之前的 NVIDIA GB300 NVL72 系统相比,该系统在每兆瓦的 AI 代理工作负载吞吐量方面提高了 30 倍。这种显著的效率提升归功于先进的优化和共同设计的软硬件平台,旨在降低每百万个 token 的成本,并在功耗受限的环境中实现更多的代理式 AI 任务。同时,NVIDIA 正通过战略投资和合作伙伴关系扩展其 AI 生态系统,包括以 35 亿美元投资联…
-
Anyscale Ray 优化 NVIDIA GB300 NVL72 的 NVLink 域放置
Anyscale 为其 Ray 框架引入了 NVLink 域感知放置组,旨在优化 NVIDIA GB300 NVL72 系统的性能。这些新的放置组确保紧密耦合的 actor 被调度在同一个 NVLink 域内,NVLink 域是一个连接 72 个 NVIDIA Blackwell GPU 和 36 个 NVIDIA Grace CPU 的机架级互连。这种拓扑感知调度原语旨在最大化 GPU 通信并保留系统意图,它建立在先前节点级放置策略的基础上。
-
Cursor 发布开源 MoE 训练超级内核 Mixture-of-Kittens
Cursor Research 已开源 Mixture-of-Kittens (MoK),这是一个专为 Mixture-of-Experts (MoE) 模型设计的专用训练内核。该超级内核将 MoE 通信和计算融合为单一的确定性过程,据称与现有基线相比,吞吐量提高了 2.37 倍。MoK 针对 NVIDIA GB200 NVL72 机架等高端硬件进行了优化,适用于大规模 AI 模型开发和训练。