High Bandwidth Memory
PulseAugur coverage of High Bandwidth Memory — every cluster mentioning High Bandwidth Memory across labs, papers, and developer communities, ranked by signal.
- instance of Hbm4 90%
- partners with SK Group 90%
- employed by Sanjay Mehrotra 90%
- developed zHBM 90%
- located in Cheongju 90%
- used by Nvidia Rubin Gpu 90%
- instance of Hbm4e 90%
- developed by Hbm4 70%
- used by Hbm4e 70%
- developed by Hbm4e 70%
- competes with High Bandwidth Flash 70%
- instance of Changxin Memory Technologies 70%
- 2026-06-02 research_milestone TrendForce projects HBM contract prices to potentially double by 2027 due to ongoing DRAM shortages and manufacturing complexities. 来源
13 天有情绪数据
Samsung's HBM production delays due to bonus dispute to impact Q3 2026 AI accelerator availability
The ongoing bonus dispute at Samsung, leading to worker revolts and production halts, directly impacts the testing and packaging of AI memory chips. This disruption is likely to cause delays in Samsung's HBM production schedules, potentially leading to a shortage of critical components for AI accelerators in Q3 2026.
Micron's US DRAM expansion to partially offset HBM-driven shortages in automotive and defense sectors
Micron's investment in US-based DDR4 DRAM production, supported by the CHIPS Act, aims to alleviate shortages in critical sectors like automotive and defense. While HBM demand pulls capacity away from these sectors, Micron's expansion could provide a much-needed supply buffer for older memory standards.
HBM demand is significantly constraining supply for traditional memory markets
The increasing demand for HBM in AI data centers is consuming a larger portion of wafer capacity, leading to a shortage of traditional DDR and LPDDR memory. This shift is driving up prices for consumer electronics and impacting the availability of memory for non-AI applications.
HBM supply constraints to persist through 2027, impacting consumer electronics availability
Evidence suggests memory manufacturers are prioritizing high-margin HBM for AI, leading to shortages and price increases for traditional DDR and LPDDR memory used in consumer electronics. With new capacity not expected until late 2027, this constraint is likely to continue affecting the availability and affordability of devices like smartphones.
Samsung's HBM packaging advancements may target mobile integration
Samsung is developing advanced HBM packaging technology that could be integrated into mobile devices. This is notable given the current trend of HBM consuming significant wafer capacity for AI data centers, potentially indicating a future where high-performance memory becomes more prevalent in consumer mobile hardware.
-
台积电和 GlobalFoundries 签署 20 亿美元美国硅中介层协议
GlobalFoundries 和台积电已签署一项为期五年、价值 20 亿美元的协议，GlobalFoundries 将在美国生产硅中介层。这些中介层对于台积电的 CoWoS 等先进封装技术至关重要，能够制造用于 AI 和高性能计算的复杂处理器。该合作伙伴关系旨在为这些关键半导体组件建立安全、国内的供应链，生产计划于 2028 年上半年开始。
-
AMD 寻求深化与三星的合作，以确保 AI 内存供应和芯片订单
AMD 正在寻求深化与三星的合作伙伴关系，旨在确保为其 AI 加速器提供更稳健的高带宽内存 (HBM) 供应。据报道，三星反过来也有兴趣利用这种关系来获得更多逻辑芯片生产的代工订单。此举正值 AMD 首席执行官 Lisa Su 访问韩国，讨论长期供应链战略，特别是下一代内存产品（如 HBM4 和先进 DDR5）的供应，这些产品对公司的 AI 和数据中心业务至关重要。
-
华为推出专用KV缓存存储，但SSD标准滞后
华为推出了OceanStor M900，这是一种专用的KV缓存存储解决方案。KV缓存是AI模型推理中用于存储和重用先前计算信息的一个组件。此举与英伟达的CMX Context Memory Storage类似，旨在通过将KV缓存数据从昂贵的DRAM卸载到更经济的固态硬盘（SSD）上来减少冗余计算并节省处理能力。然而，这些SSD的具体要求，如耐用性（DWPD）和标准化，仍在开发中，目前的行业讨论范围从3到9 DWPD不等。该策略的最终成…
-
Nvidia 采用定制 HBM，为计算腾出 GPU 芯片空间
SemiAnalysis 报道称，Nvidia 正在采用定制的高带宽内存 (HBM) 解决方案，显著减少了内存控制器和 PHY 所需的芯片空间。这种定制方法，特别是采用三星的 HBM4 接口，与标准 HBM 相比，预计可腾出 12% 的 GPU 芯片空间，可能允许增加高达 25% 的计算面积和 30% 的带宽。这些进步预计将使 Nvidia 即将推出的 Rubin GPU 及其相关的内存供应商和代工厂受益。
-
研究发现：超高带宽闪存可提升大语言模型服务性能
一项新的研究论文探讨了使用超高带宽闪存（HBF）来增强高带宽内存（HBM）以用于大语言模型（LLM）服务。该研究引入了一个分层存储系统和一个缓冲感知调度方法，以管理HBF的访问成本和有限的写入寿命。模拟显示，HBF增强的系统可以将完成时间最多缩短87%，节省能源，并延长HBF的估计写入寿命。
-
在人工智能驱动的内存短缺和价格上涨的背景下，美光（Micron）报告创纪录利润
主要内存制造商美光（Micron）由于人工智能行业对高带宽内存（HBM）的高需求，正在经历创纪录的利润。首席执行官Sanjay Mehrotra预测，由于生产爬坡受到制造复杂性的阻碍，供应短缺将持续，价格将至少上涨到2028年。该公司已将重点从消费市场转向企业客户，这进一步加剧了现有内存的价格上涨。
-
美光预测内存短缺将持续到2028年，公司利润创纪录
美光科技公司预计，尽管产量增加，但动态随机存取存储器（DRAM）和NAND闪存芯片的短缺将持续到2028年。该公司报告了创纪录的利润和高毛利率，并将需求归因于AI数据中心。首席执行官Sanjay Mehrotra表示，2027年和2028年的供应将无法满足需求，这将导致消费者价格上涨。这一预测与宏碁首席执行官预测PC价格下跌的说法形成对比。
-
人工智能芯片制造商优先考虑成本效益高的HBM，在需求飙升的情况下选择8层堆叠
人工智能芯片制造商在争夺高带宽内存（HBM）方面面临激烈竞争，为控制成本，他们选择效率较低的8层堆叠而非12层堆叠。预计到2027年，这种需求的激增将显著提高HBM的平均销售价格。内存已成为扩展人工智能基础设施的关键瓶颈。
-
GLM5.3稀疏注意力机制影响HBM内存使用
SemiAnalysis详细介绍了GLM5.3的稀疏注意力机制如何影响高带宽内存（HBM）的使用。该分析涵盖了KV缓存卸载和HiSparse等关键技术，这些技术对于优化性能至关重要。它还涉及AgentX TileRT和InferenceX，暗示了AI推理效率的进步。
-
Imagination E系列GPU集成AI，加速渲染和LLM推理
Imagination Technologies发布了其新的E系列GPU架构，旨在将AI能力直接集成到图形处理中。新架构配备了“Neural Core”，可在2.3毫秒内完成540p到1080p分辨率的AI倍增，并支持MXFP8和MXFP4等低精度格式，将大型语言模型的Prefill性能提升4.7倍。E系列旨在通过在统一的可编程平台上处理图形和AI任务来减少数据移动并提高能效，尽管在复杂的SoC中仍需要与其他处理单元协作。
-
AI代理报告工具进度以提高性能
研究人员开发了一种新方法，使AI代理在使用外部工具时能更好地管理其进度。当前系统经常猜测工具需要多长时间，导致GPU内存使用效率低下。提出的解决方案涉及工具实时报告其进度，提供比以往估算方法更准确的信号。这种方法可以显著减少代理在工具调用后收到第一个令牌所需的时间，从而提高整体性能。
-
中国CXMT报告HBM良率为25%；YMTC考虑混合键合DRAM
据报道，长鑫存储科技（CXMT）在其高带宽内存（HBM）生产中实现了近25%的良率。同时，长江存储科技（YMTC）正在探索利用XStacking铜-铜混合键合技术的动态随机存取内存（DRAM）堆叠计划。这些进展发生之际，行业报告表明中国在HBM和DRAM制造方面落后于韩国数年。
-
Piecemakers 押注定制 DRAM 用于边缘 AI，与 HBM 区分开来
由南亚科技支持的 DRAM 设计公司 Piecemakers Technology, Inc. 正在专注于为边缘 AI 设备提供定制内存解决方案，而不是高带宽内存 (HBM)。该公司认为推理内存需求将与训练内存需求不同，并提出了一种通过混合键合将 DRAM 直接堆叠到处理器上的解决方案。这一战略体现在其收入模式中，该模式优先考虑设计费而非芯片销售，定制 AI 设计工作占其收入的很大一部分。Piecemakers 旨在到 2027 年转…
-
SK Hynix正与英特尔洽谈在美国制造内存芯片
据报道，SK Hynix正与英特尔商讨在美国建立内存芯片制造工厂。潜在的合作方式包括SK Hynix租用英特尔正在建设中的俄亥俄州工厂的场地，或与英特尔及其他AI超大规模云服务商成立合资企业。此举旨在解决持续的内存短缺问题，并增加对AI应用至关重要的高带宽内存（HBM）的产量。SK Hynix已确认正在探索提升全球竞争力的选项，但尚未做出任何明确计划。
-
AI模型将内存卸载到CPU以提高性能
大型语言模型面临内存挑战，因为AI代理需要广泛的上下文，导致大型KV缓存给GPU内存带来压力。为解决此问题，一种新方法将内存管理从GPU转移到CPU，利用包括DDR内存和SSD在内的分层存储。该策略旨在通过卸载历史数据来释放GPU资源以生成新token，而像Intel的QAT这样的技术可能会加速压缩和解压缩以提高效率。
-
AMD MI355X 通过 SGLang 和 UMBP 集成缩小了与 GB300 的性能差距 · 跟踪 3 个来源
SemiAnalysis 报道称，AMD 的 MI355X 在代理推理性能和总拥有成本方面正在迅速提高，接近 GB300 的水平。这一进步归功于 AMD 的 SGLang 团队及其 MoRI 库，Universitas Mandiri Bina Prestasi (UMBP) 也做出了重要贡献。UMBP 作为 KV 卸载后端集成到 SGLang 中，特别是通过 KVCache Store Linker，优化了 High Bandwid…
-
英伟达发布Rubin Ultra GPU；GPT-6 Astra或将使用循环Transformer
英伟达预览了其Rubin Ultra GPU，该GPU每封装配备1TB高带宽内存。另外，有报道称OpenAI即将推出的GPT-6 Astra模型将采用循环Transformer，使其能够通过多次处理层而不是增加参数数量来增加计算深度。这种架构转变表明领先的AI实验室在模型扩展方法上可能发生变化，重点将放在计算效率而非模型规模上。
-
NVIDIA Rubin Ultra GPU 预览版拥有 1TB HBM 是出于供应原因，而非性能考量
SemiAnalysis 讨论了 NVIDIA 的 Rubin Ultra GPU，重点介绍了一个预览版，该预览版每封装拥有 1TB 高带宽内存 (HBM)，远超目前出货产品中的 192GB。Myron Xie 和 Jordan Nanos 的对话表明，这种差异主要是由于供应限制，而非性能限制。Xie 解释了 4-High (4-HI) 堆叠方法如何增加每个晶圆可用的芯片数量，并指出对内存需求减少的讽刺之处在于，它来自于研究实验室本身…
-
美光图表揭示计算-HBM带宽差距，新解决方案涌现
美光在Hot Chips 2026上展示的一张图表，说明了计算能力增长与高带宽内存（HBM）带宽之间存在显著差距。虽然计算能力每两年增长两倍，但同期HBM带宽的增长不到两倍。为解决这一瓶颈，正在开发将内存置于更靠近计算单元或将处理单元集成到内存本身等创新技术。三星已推出一款产品，在Llama 3.1 8B的令牌处理速度方面实现了三倍提升。
-
高带宽内存：人工智能革命的赋能技术
高带宽内存（HBM）被确定为推动当前人工智能革命的关键技术。它在人工智能领域的进步中发挥着至关重要的作用。