Vera Rubin Ultra NVL144

AI服务器采用手机内存，推高成本并加剧供应紧张

由于AI和超级计算工作负载中CPU核心数量的增加以及日益增长的数据需求，AI服务器越来越多地采用传统上用于移动设备的LPDDR5X内存。与传统的DDR5 RDIMM相比，LPDDR5X在功耗效率和带宽方面具有优势，这使其成为NVIDIA最新服务器设计（如Grace和Vera CPU）的关键组件。然而，AI服务器对LPDDR5X的需求已超出供应能力，导致价格上涨和潜在的分配挑战，据报道NVIDIA正在考虑将部分系统的内存容量减半。