HBM3
PulseAugur coverage of HBM3 — every cluster mentioning HBM3 across labs, papers, and developer communities, ranked by signal.
-
JEDEC的SPHBM4标准大幅降低AI内存成本
JEDEC推出了一项新标准SPHBM4，旨在降低AI处理器中使用的高带宽内存（HBM）的成本。该标准采用了更窄的512位接口，并允许使用成本较低的有机基板，从而无需昂贵的转接板和台积电CoWoS等先进封装。SPHBM4通过提高数据传输速率来维持HBM4级别的带宽，旨在使高性能内存更容易用于AI应用。
-
Nvidia H100 GPU 定价及 2026 年替代方案
2026 年，Nvidia H100 GPU 仍是 AI 基础设施的关键组成部分，购买价格从 30,000 美元到 40,000 美元以上不等。云租赁成本差异很大，专业 GPU 云比 AWS、Azure 和 Google Cloud 等超大规模云服务商提供更低的费率。H200 和 B200 等新型号也已上市，提供更大的内存和有竞争力的定价，尤其适用于内存密集型推理任务。
-
Furiosa AI 的 Renegade 芯片或将助力本地大语言模型
韩国初创公司 Furiosa AI 开发了一款新的推理芯片 Renegade，该芯片基于 5nm 工艺节点，拥有 48GB HBM3 VRAM 和 1.5TB/s 的内存带宽。虽然最初并非面向消费市场，但该芯片已与 LG 的大语言模型进行了测试。该公司开放其编程接口的潜力可能对本地大语言模型格局产生重大影响，特别是如果其定价在 2.5k 美元左右具有竞争力的话。
-
空闲GPU功耗由CUDA上下文驱动，而非VRAM
研究人员量化了将AI模型加载到GPU上的能源成本，这种做法被称为“模型停放”。他们的研究发现，主要的能源消耗来自CUDA上下文，无论GPU架构或内存类型如何，都会增加26-66W的空闲功耗。分配给模型的VRAM量对这种空闲功耗几乎没有影响。研究结果表明，节能部署策略应侧重于最小化冷启动延迟，而不是仅仅让模型一直处于加载状态。