Hbm4
PulseAugur coverage of Hbm4 — every cluster mentioning Hbm4 across labs, papers, and developer communities, ranked by signal.
- 2026-06-05 research_milestone Nvidia CEO Jensen Huang announced that three memory manufacturers have qualified to supply HBM4, indicating a significant step in the supply chain for advanced AI hardware. 来源
5 天有情绪数据
-
人工智能基础设施重心转向内存,成本随之上升
人工智能基础设施格局正在发生变化,对于大型语言模型(LLM)的推理服务而言,内存成本正变得比计算能力更为重要。vLLM推理引擎的最新版本0.34.0,默认情况下会利用几乎所有可用的GPU内存作为KV缓存,将驻留上下文增加了高达55%,但在高负载下可能会增加每个token的解码延迟。这一变化,加上内存价格上涨以及引入具有显著更大HBM容量的加速器,使得重新评估人工智能部署策略成为必要,应优先考虑内存决策而非传统的浮点运算次数(flop …
-
三星、SK海力士在HBM4竞争中迎来AI驱动的内存需求激增
三星和SK海力士正经历由人工智能行业转型驱动的内存产品需求增长。HBM4的竞争日益激烈,同时对服务器DDR5和企业级SSD的需求也在增长。这种需求的激增超过了生产能力,导致内存市场供应持续紧张且价格走高。
-
NVIDIA 调整 Rubin GPU 规格,降低内存和 NVLink 带宽
NVIDIA 已调整其即将推出的 Rubin GPU 的规格,与早期预测相比,降低了 HBM4 内存带宽和 NVLink 互连带宽。Rubin GPU 现在将提供每 GPU 19.2 TB/秒的内存带宽,低于之前 22 TB/秒的目标,NVLink 带宽将从 3.6 TB/秒减少到 3.0 TB/秒。然而,横向扩展网络带宽已从 400 GB/秒增加到 450 GB/秒。这些变化发生之际,NVIDIA 正开始为 Vera Rubin 系…
-
Microsoft 发布配备 288GB HBM4 内存的 Maia 300 AI 加速器
Microsoft 在 OCP 2026 上发布了其下一代 AI 加速器 Maia 300。这款新芯片拥有八个 HBM4 堆栈,提供 288GB 内存和 18TB/s 的内存带宽,以及 3.2TB/s 的横向扩展双向带宽。该平台专为高密度部署而设计,一个机架可容纳 96 个 Maia 加速器,并支持加速器的液冷,同时为其他组件使用风扇。Microsoft 还展示了一个 4 加速器节点,突显了其广泛的 fabric 连接性和独特的 PCIe 拓扑。
-
美光转向3D DRAM,三星在HBM营收上领先
美光公司在运营二十年后,正将其战略从2D DRAM制造转向,重新分配资本用于3D DRAM和先进NAND技术。此举包括专注于1-delta密度提升和探索新的键合技术。与此同时,据报道,三星电子在高端带宽内存(HBM)营收上已超越SK海力士,这得益于HBM4的开发,尽管这种领先地位可能不会转化为利润。
-
AMD 寻求深化与三星的合作,以确保 AI 内存供应和芯片订单
AMD 正在寻求深化与三星的合作伙伴关系,旨在确保为其 AI 加速器提供更稳健的高带宽内存 (HBM) 供应。据报道,三星反过来也有兴趣利用这种关系来获得更多逻辑芯片生产的代工订单。此举正值 AMD 首席执行官 Lisa Su 访问韩国,讨论长期供应链战略,特别是下一代内存产品(如 HBM4 和先进 DDR5)的供应,这些产品对公司的 AI 和数据中心业务至关重要。
-
Nvidia 采用定制 HBM,为计算腾出 GPU 芯片空间
SemiAnalysis 报道称,Nvidia 正在采用定制的高带宽内存 (HBM) 解决方案,显著减少了内存控制器和 PHY 所需的芯片空间。这种定制方法,特别是采用三星的 HBM4 接口,与标准 HBM 相比,预计可腾出 12% 的 GPU 芯片空间,可能允许增加高达 25% 的计算面积和 30% 的带宽。这些进步预计将使 Nvidia 即将推出的 Rubin GPU 及其相关的内存供应商和代工厂受益。
-
三星定制HBM4缩小接口,释放GPU芯片空间 · 跟踪3个来源
三星正在开发定制的高带宽内存(HBM)解决方案,与标准HBM4相比,这些解决方案显著减小了物理占地面积并提高了效率。这些定制设计用紧凑的芯片到芯片链接取代了宽PHY接口,从而为计算芯片释放了宝贵的空间。这种优化对于Nvidia的Rubin等高性能GPU尤其重要,因为目前内存接口占用了计算芯片的很大一部分。
-
AI热潮加剧内存芯片供应紧张,影响消费电子产品
全球对AI数据中心的需求正导致内存芯片(尤其是高带宽内存HBM)严重短缺。这使得三星和SK海力士等主要制造商的库存水平降至十天以下,可能影响消费电子产品的价格。HBM的生产正在挤占传统DRAM的产能,影响智能手机和PC的组件。展望未来,HBM4的推出预计将进一步加剧生产压力,预计到2026年全球AI基础设施投资将达到1.3万亿美元。这种稀缺性也推高了GPU价格,据报道英伟达已将其成本提高了20-30%。
-
HBM混合键合延迟至本十年末,逻辑芯片应用取得进展
混合键合,一种铜对铜芯片连接技术,已用于逻辑芯片的高产量生产,但其在高带宽内存(HBM)上的应用已推迟。最近的JEDEC决定允许HBM4继续使用不太先进的微凸块技术,将混合键合在HBM上的首次亮相推迟到本十年末的HBM4E和HBM5。虽然台积电正在推进其混合键合间距,英特尔已将其应用于服务器CPU,但内存领域的延迟归因于此JEDEC决定。
-
英伟达因成本飙升削减Rubin Ultra的HBM · 追踪3个来源
英伟达已为其Rubin Ultra系统减少了高带宽内存(HBM)配置,从HBM4E 12-Hi(384GB)降级到HBM4 8-Hi(192GB)。这一决定源于近期HBM和DRAM的价格上涨,导致内存约占总资本成本的40%。通过“削减规格”,英伟达旨在削减超过50%的成本,并将资本重新分配给网络基础设施,例如用于机架间互连的扩展网络。
-
三星计划通过zHBM路线图实现计算与内存的集成
三星已概述了一项三阶段战略,旨在将其高带宽内存(HBM)架构直接集成逻辑和计算能力。该公司的zHBM方法旨在将DRAM直接堆叠在处理器之上,从而无需独立的插入器。这一在Hot Chips 2026上详细介绍的演进,首先将HBM基板移至先进的逻辑工艺,使其能够处理以前由处理器管理的函数,并回收宝贵的XPU面积。
-
OpenAI 的“Jalapeño”加速器在效率上超越 Nvidia Blackwell
SemiAnalysis 发布了关于 OpenAI 新的代号为“Jalapeño”的 AI 加速器的详细信息。据报道,该加速器比 NVIDIA 的 Blackwell 架构更节能,在每兆瓦的代币处理能力上表现更优。讨论内容涵盖了其架构、编程模型,以及 OpenAI 如何实现这些性能提升,同时也涉及了三星的 HBM4 内存和 AI 设计的芯片。
-
d-Matrix 发布具有 100 TB/s 带宽的 3D DRAM AI 加速器
d-Matrix 发布了其 Raptor AI 加速器,该加速器采用了新颖的 3D 堆叠架构。该设计将 TSMC 4nm 计算芯片直接堆叠在定制设计的 DRAM 芯片之上,实现了每张卡前所未有的 100 TB/s 带宽。该公司声称,与传统的基于 HBM 的设计相比,这种方法显著降低了数据传输的能耗,并预计在生成式推理任务中实现更高的吞吐量。
-
OpenAI 发布用于推理工作负载的定制 Jalapeño ASIC
OpenAI 与 Broadcom 合作开发了名为 Jalapeño 的自研推理 ASIC。这款定制芯片旨在为 OpenAI 的推理工作负载提供最佳计算平台,专注于每瓦性能和低延迟。Jalapeño ASIC 旨在超越当前行业领导者如 NVIDIA 的 GB200 和 GB300,尤其是在多芯片操作的能效和降低延迟方面。
-
Intel 发布用于推理的实用型 AI 加速器 Crescent Island
在 Hot Chips 研讨会上,Intel 披露了其基于 Xe3P 架构的 Crescent Island AI 加速器的更多细节。该加速器专为推理任务设计,采用 350W 风冷 PCIe 卡,配备 480 GB LPDDR5X 内存。与竞争对手的高功耗液冷 GPU 不同,Crescent Island 优先考虑更实用、低功耗的 AI 推理部署。
-
Nvidia Rubin Ultra GPU 面临 HBM 降级,容量从 1TB 削减至 192GB
据报道,Nvidia 即将推出的 Rubin Ultra GPU 的高带宽内存 (HBM) 容量已大幅削减。初步预览显示为 1TB HBM,但量产版本预计将配备 192GB HBM4,这一容量低于标准 Rubin GPU 的 288GB。此次降级归因于堆叠内存芯片数量的变化、堆叠高度的降低,以及转向容量较低的 HBM4 芯片而非 HBM4E。
-
AI硬件进展:Cerebras 堆叠DRAM,HBM 面临成本上涨
在 Hot Chips 2026 上,领先的内存和芯片制造商讨论了AI硬件的未来,重点关注晶圆级处理和高带宽内存(HBM)的进展。Cerebras 揭示了其CS-6系统中堆叠式DRAM的路线图,旨在提高推理性能并减小芯片面积。与此同时,Micron 和 SK Hynix 强调了HBM日益增长的挑战和成本,指出与传统DDR5内存相比,其硅成本在每一代中都在增加。SK Hynix 正在推动HBM5中的混合键合以克服堆叠限制,而三星则在探索…
-
三星 2nm 芯片良率滞后,影响特斯拉交易和台积电竞争
三星在其晶圆代工业务上面临严峻挑战,特别是其 2nm 工艺的良率,据报道约为 55%。尽管三星与特斯拉就其 AI6 处理器达成了价值 165 亿美元的巨额合同,但三星的晶圆代工收入仍远落后于台积电。该公司位于德克萨斯州泰勒的新美国工厂已出现延误和范围缩减,大规模生产现已定于 2027 年,而其位于平泽的韩国工厂则专注于 AI 内存需求。
-
AMD Helios 旨在通过机架规模AI系统挑战NVIDIA
据报道,AMD正在开发一款名为Helios的新型机架规模AI系统,旨在与NVIDIA的基础设施产品竞争。该系统预计将配备72个MI455X加速器和高达31TB的HBM4内存。