High Bandwidth Memory
PulseAugur coverage of High Bandwidth Memory — every cluster mentioning High Bandwidth Memory across labs, papers, and developer communities, ranked by signal.
- instance of Hbm4 90%
- partners with SK Group 90%
- located in Cheongju 90%
- employed by Sanjay Mehrotra 90%
- used by Cowos 70%
- developed by Hbm4 70%
- used by SK Group 70%
- instance of Changxin Memory Technologies 70%
- developed by SK Group 70%
- competes with Changxin Memory Technologies 70%
- used by Crescent Island 70%
- affiliated with Chey Tae-won 70%
- 2026-06-02 research_milestone TrendForce projects HBM contract prices to potentially double by 2027 due to ongoing DRAM shortages and manufacturing complexities. 来源
24 天有情绪数据
Samsung's HBM production delays due to bonus dispute to impact Q3 2026 AI accelerator availability
The ongoing bonus dispute at Samsung, leading to worker revolts and production halts, directly impacts the testing and packaging of AI memory chips. This disruption is likely to cause delays in Samsung's HBM production schedules, potentially leading to a shortage of critical components for AI accelerators in Q3 2026.
Micron's US DRAM expansion to partially offset HBM-driven shortages in automotive and defense sectors
Micron's investment in US-based DDR4 DRAM production, supported by the CHIPS Act, aims to alleviate shortages in critical sectors like automotive and defense. While HBM demand pulls capacity away from these sectors, Micron's expansion could provide a much-needed supply buffer for older memory standards.
HBM demand is significantly constraining supply for traditional memory markets
The increasing demand for HBM in AI data centers is consuming a larger portion of wafer capacity, leading to a shortage of traditional DDR and LPDDR memory. This shift is driving up prices for consumer electronics and impacting the availability of memory for non-AI applications.
HBM supply constraints to persist through 2027, impacting consumer electronics availability
Evidence suggests memory manufacturers are prioritizing high-margin HBM for AI, leading to shortages and price increases for traditional DDR and LPDDR memory used in consumer electronics. With new capacity not expected until late 2027, this constraint is likely to continue affecting the availability and affordability of devices like smartphones.
Samsung's HBM packaging advancements may target mobile integration
Samsung is developing advanced HBM packaging technology that could be integrated into mobile devices. This is notable given the current trend of HBM consuming significant wafer capacity for AI data centers, potentially indicating a future where high-performance memory becomes more prevalent in consumer mobile hardware.
-
AI服务器采用手机内存，推高成本并加剧供应紧张
由于AI和超级计算工作负载中CPU核心数量的增加以及日益增长的数据需求，AI服务器越来越多地采用传统上用于移动设备的LPDDR5X内存。与传统的DDR5 RDIMM相比，LPDDR5X在功耗效率和带宽方面具有优势，这使其成为NVIDIA最新服务器设计（如Grace和Vera CPU）的关键组件。然而，AI服务器对LPDDR5X的需求已超出供应能力，导致价格上涨和潜在的分配挑战，据报道NVIDIA正在考虑将部分系统的内存容量减半。
-
内存短缺导致英伟达AI服务器价格上涨超15% · 追踪10个来源
英伟达将从2027年初开始将其AI服务器价格上调超过15%，影响Grace Blackwell和Vera Rubin等系统。此次涨价主要受内存芯片成本飙升的推动，特别是高带宽内存（HBM）正经历严重短缺。增加的成本将转嫁给包括微软、谷歌和Meta等云巨头在内的主要客户，这些公司正在构建庞大的AI基础设施。这种情况凸显了三星和SK海力士等内存制造商在当前AI硬件市场日益增长的影响力。
-
美光CEO：AI需求永久重塑内存芯片行业
美光CEO Sanjay Mehrotra表示，AI的需求已从根本上改变了内存芯片行业，打破了其传统的周期性繁荣与萧条的模式。他指出，目前高带宽内存（HBM）的供应量仅能满足客户订单的一半。这一转变表明，AI发展驱动的需求将持续保持高位。
-
SK Hynix 和 SanDisk 在 2026 FMS 大会上推进 AI 高带宽闪存
在 2026 FMS 大会上，SK Hynix 和 SanDisk 展示了高带宽闪存（HBF）技术的进展，该技术旨在增强 AI 推理能力。SK Hynix 推出了新的内存层级，包括具有 TB 级带宽的 G1.5 HBF，旨在优化 AI 性能和成本。SanDisk 详细介绍了其最新的 NAND 闪存芯片以及与 SK Hynix 在 HBF 上的合作，HBF 类似于 HBM 堆叠 NAND 芯片，为 AI 加速器提供高容量、高性能的存储解决方案。
-
AI发展瓶颈从硬件转向基础设施
随着技术的成熟，AI发展中的瓶颈正在转移。最初的限制是半导体制造，特别是GPU、高带宽内存（HBM）和先进封装。随着这些领域的改进，焦点转向了系统级问题，如网络、功耗和散热管理。目前，主要的限制在于更广泛的基础设施，包括Transformer模型、电网和总体电力容量。
-
新的rl-triton库通过统一的GPU内核加速RL信用分配
研究人员开发了rl-triton，一个开源库，包含用于强化学习信用分配的高性能GPU内核。该库在一个单一的关联扫描框架下统一了七种不同的RL估计算法，包括GAE和V-Trace。内核在Triton中实现，将这些算法作为线性递归在对数并行步中解决，与现有基线相比实现了显著的加速。
-
计算、内存和存储领域探索LLM首次响应时间缩减策略
减少大型语言模型（LLM）的首次响应时间（TTFT）对于用户体验和性能至关重要。这涉及到优化四个关键领域：计算、GPU内存、存储和整体架构。FlashAttention和PagedAttention等技术解决了计算和内存管理问题，但它们的有效性受到硬件带宽的限制。扩展GPU内存或将KV Cache分层到更快的存储（如NVMe-oF阵列）可以显著减少长上下文场景下的延迟，明信科技的解决方案就证明了这一点，该方案显示480B模型的TTFT…
-
AI 推动存储和内存市场 massive 增长，FMS 会议揭示
2026 年未来内存与存储（FMS）会议强调了存储和内存市场的显著增长，这主要由 AI 驱动。来自 Trendforce 和 Yole 的分析师展示了到 2028 年 DRAM 和 NAND 位增长大幅增加的预测，生成式 AI 和代理工作负载等 AI 应用正在推动需求。特别是 HBM，其出货量正在快速增长，SK hynix 和 Nvidia 是该领域的主要参与者。会议还讨论了对 AI 优化数据中心的巨额投资，预计到 2030 年将达到万亿美元。
-
AI热潮推动内存价格前所未有飙升
在过去的18个月里，内存价格急剧上涨，这一趋势主要归因于人工智能公司的巨大需求。这些公司在投资者资本的推动下，消耗了全球内存供应的相当大一部分，特别是高带宽内存（HBM）。对HBM需求的增加，其晶圆资源消耗量远超标准DDR内存，导致供应短缺并推高了所有类型内存的价格，影响了手机和PC等消费电子产品。
-
Intel CEO 透露回归内存业务，探索 CPU-内存堆叠
Intel CEO Pat Gelsinger 已表明可能重返公司先前已退出的内存市场。Gelsinger 强调内存现在是适合创新的战略资产，并提出了将内存直接堆叠到 CPU 上的可能性。该公司还聘请了前 SK Hynix 负责人 Seok-Hee Lee，这表明其认真考虑新的内存架构。
-
新的小波卷积方法提高了速度并降低了内存使用量
研究人员开发了一种新方法来提高小波卷积（WTConv）的效率，这是一种用于神经网络中诸如温度测量等任务的技术。现有的WTConv实现因过多的数据移动而受到阻碍，导致性能缓慢和内存使用量高。通过将该过程重新设计为I/O感知，该团队显著减少了到高带宽内存的数据流量，从而实现了高达4.35倍的训练速度提升，并将峰值内存需求大致减半。
-
SK海力士着眼于出售中国工厂，转向人工智能内存市场
据报道，SK海力士正考虑出售其位于中国重庆的芯片封装厂，作为向利润更高的人工智能内存市场战略性转变的一部分。分析人士认为，此举旨在将资本从低利润的NAND闪存产品重新分配，以专注于高带宽内存（HBM）。然而，由于估值障碍和半导体市场的波动性，此次出售可能面临挑战。
-
TileRT AI 提升 NVIDIA Blackwell GPU 上的 LLM 解码交互性
TileRT AI 的新技术 TileRT 承诺显著提升 NVIDIA Blackwell GPU 上大型语言模型的解码交互性。通过将模型静态编译为持久化的 Engine Kernel，TileRT 旨在克服传统 GPU 编程模型固有的延迟问题。这项创新有望在相同的每 token 成本下，将解码交互性提高 1.9 倍，并可能影响 Groq、Cerebras 和 SambaNova 等竞争对手。
-
计算租赁合同需要为AI工作负载添加特定条款
本文重点介绍了计算租赁合同中针对AI工作负载的三个关键但常被忽略的条款：带宽、存储和故障时长。文章强调，网络带宽对于大型模型的推理和训练性能至关重要，直接影响端到端速度。文章还强调了除了容量之外，明确存储性能指标（详细说明读取带宽、IOPS和延迟）的重要性。最后，文章指出，没有明确故障确定、响应时间和赔偿的模糊可用性保证，实际上是没有意义的SLA。
-
2027年DRAM和HBM产能据称已售罄，预示价格上涨
据报道，2027年所有DRAM和高带宽内存（HBM）的供应量已售罄，且未计划增加产能。这种短缺预计将在不久的将来导致消费者价格进一步上涨。尽管内存制造商本身尚未正式证实这些报道，但这种情况表明AI和数据中心扩张面临着重大的瓶颈。
-
在单个Google Cloud TPU v5e芯片上自托管AI代理后端
一份技术指南详细介绍了如何在单个Google Cloud TPU v5e芯片上自托管一个轻量级AI代理后端。该设置使用了Gemma 4-E2B模型和vLLM推理引擎，实现了每秒1,496个输出令牌的吞吐量。作者强调了实际实施步骤，包括配置TPU、通过Google Secret Manager安全管理Hugging Face令牌，以及应对特定区域的配置模型限制。文章提供了性能指标和成本估算，突出了在此单芯片配置上运行多个并发代理的可行性。
-
人工智能需求收紧内存供应，AMD押注专用推理芯片 · 跟踪4个来源
人工智能（AI）的蓬勃发展，特别是对高带宽内存（HBM）和DRAM的需求激增，正在给半导体行业带来显著的供应限制。这一激增促使制造商优先考虑AI基础设施组件而非传统的消费硬件，导致内存和存储成为战略瓶颈。此外，AMD收购了Taalas，这是一家专注于将AI模型直接嵌入硅片以实现更高效推理的初创公司，这标志着计算正朝着通用GPU之外的专用硬件转移。
-
Alibaba推出Accio Work智能体平台，实现自主业务运营
阿里巴巴集团推出了Accio Work，一个专为自主运营设计的智能体业务平台。该平台旨在通过人工智能简化业务流程。该公告是在嵌入式周期间发布的，同期还讨论了高带宽内存（HBM）以及用于PCB设计的智能体AI。
-
AI模型被固化到硅片上以实现更快的推理，绕过内存瓶颈
一种新趋势正在出现，即将AI模型直接固化到硅片上，这个过程将模型权重永久地嵌入为物理晶体管。这种方法，以Taalas等公司为代表，并由Groq先前探索过，旨在通过消除从外部内存移动权重的需求来显著提高推理速度。虽然GPU依赖高带宽内存（HBM），这是一个瓶颈且昂贵的组件，但固化硅片使用片上SRAM。这种转变可能会重新分配制造负荷并缓解HBM供应压力，尽管模型在硅片上固化的程度仍然是关键的设计变量。
-
AI需求售罄2027年DRAM和HBM产能，推高价格
据报道，主要内存制造商已售罄2027年的DRAM和HBM产能，这主要归因于AI公司的需求。此次售罄，加上现有的长期采购协议，预计将提高零售价格并加剧当前的RAM短缺。