PulseAugur
实时 22:57:40
English(EN) GPU Renters Are Playing a Silicon Lottery

GPU 租用者面临“硅片彩票”,云性能不一致

来自威廉玛丽学院、杰斐逊实验室和 Silicon Data 的研究显示,从云服务商租用的相同 GPU 型号之间存在显著的性能差异。这种“硅片彩票”意味着客户可能无法获得他们所支付的性能,其中一些 H100 PCIe GPU 在计算性能上显示出高达 34.5% 的差异,而 H200 SXM GPU 在内存带宽上则表现出高达 38% 的变化。研究表明,制造不一致是导致这些差异的主要原因,而不是散热或配置问题。为缓解此问题,研究人员建议 GPU 租用者对特定实例进行基准测试,以确保他们为投资获得足够的性能。 AI

影响 GPU 租用者面临性能不确定性,可能为云计算支付过高费用;建议对特定实例进行基准测试。

排序理由 分析基于云的 GPU 在 AI 工作负载中性能差异的研究论文。

在 IEEE Spectrum — AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

GPU 租用者面临“硅片彩票”,云性能不一致

报道来源 [1]

  1. IEEE Spectrum — AI TIER_1 English(EN) · Samuel K. Moore ·

    GPU Renters Are Playing a Silicon Lottery

    <img src="https://spectrum.ieee.org/media-library/bar-chart-comparing-tesla-t4-a10g-a100-l4-and-h100-gpu-performance-ranges.png?id=65814435&amp;width=980" /><br /><br /><p>Think one GPU is very much like another? Think again. It turns out that there’s surprising variability in th…