一篇新的研究论文详细介绍了对大学 GPU 集群进行细粒度监控研究的发现，揭示了显著的利用率不足。这项研究在 10 天内使用一种以 100 毫秒间隔捕获指标的轻量级工具进行，发现超过 70% 的作业使用的 GPU 内存不到 20%，而 50% 的作业平均流式多处理器利用率低于 5%。研究表明，通过改进的作业调度和多任务处理，可以在不依赖硬件或应用程序进步的情况下，显著提高 GPU 利用率。 AI
影响 通过更好的调度和多任务处理，凸显了在 AI 计算基础设施中实现显著效率提升的潜力。
排序理由 研究论文，详细介绍了对 GPU 集群利用率进行细粒度监控研究的发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
