一位用户在 r/LocalLLaMA 上对 MI50 GPU 进行了测试,重点关注其在不同功耗限制下的功耗和性能。测试表明,生成速度对功耗限制具有很强的韧性,100W 的功耗可达到 190W 功耗下速度的近 97.5%。值得注意的是,在 50W 功耗下运行时,能提供峰值生成速度的 70%,而功耗仅为峰值功耗的 26%,能效比提高了 3.6 倍。分析还表明,在功耗受限时,提示处理速度的下降速度快于生成速度,并且对于推理密集型任务,50W 似乎是 MI50 的最佳运行点。 AI
影响 证明通过调整功耗限制,AI 硬件可以实现显著的能效提升,从而可能降低运营成本和环境影响。
排序理由 用户进行的硬件性能测试和 AI 加速器分析。[lever_c_demoted from research: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →