PulseAugur
实时 15:43:41

LLM训练能耗通过GPU时钟调整降低14%

特温特大学的研究人员开发了一种方法,可将大型语言模型训练的能耗降低高达14%。该技术被称为动态电压频率调整(DVFS),涉及智能地调整GPU计算核心和内存的时钟频率。通过对每个内核的频率进行微调,研究人员在不影响训练速度的情况下实现了显著的节能。 AI

影响 降低了LLM训练巨大的能耗,可能降低成本和环境影响。

排序理由 学术研究论文,提出了一种提高LLM训练能效的新技术。[lever_c_demoted from research: ic=1 ai=1.0]

在 IEEE Spectrum — AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

LLM训练能耗通过GPU时钟调整降低14%

报道来源 [1]

  1. IEEE Spectrum — AI TIER_1 English(EN) · Dina Genkina ·

    Timing Trick Cuts Energy Used in LLM Training by Up to 14 Percent

    <img src="https://spectrum.ieee.org/media-library/abstract-illustration-of-a-pixelated-cube-leaking-vibrant-colors-onto-a-dark-grid.jpg?id=66884338&amp;width=1245&amp;height=700&amp;coordinates=0%2C187%2C0%2C188" /><br /><br /><p><a href="https://openai.com/" rel="noopener norefe…