Andrew Sheinberg

GPU 集群监控揭示显著的利用率不足的机会

一篇新的研究论文详细介绍了对大学 GPU 集群进行细粒度监控研究的发现，揭示了显著的利用率不足。这项研究在 10 天内使用一种以 100 毫秒间隔捕获指标的轻量级工具进行，发现超过 70% 的作业使用的 GPU 内存不到 20%，而 50% 的作业平均流式多处理器利用率低于 5%。研究表明，通过改进的作业调度和多任务处理，可以在不依赖硬件或应用程序进步的情况下，显著提高 GPU 利用率。