Hugging Face 开发了一种新的约束感知 GPU 调度器，与传统的 FIFO（先进先出）调度器相比，显著提高了 GPU 利用率和产出。跨七个场景的基准测试表明，新调度器将 GPU 利用率提高了多达 33 个百分点，将优先级加权产出提高了多达 105%。其关键创新在于系统如何做出分配决策，优先考虑在哪个时间步由哪个 GPU 运行哪个作业，而不是简单地按到达顺序处理作业。 AI
影响 这种新的 GPU 分配策略可以显著提高 AI 训练和推理工作负载的效率并降低成本。
排序理由 该集群描述了公司开发的新软件工具（GPU 调度器），而不是核心 AI 版本或研究。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
