研究人员开发了一种名为整体 FLOP 利用率 (OFU) 的新指标，用于衡量 AI 工作负载的 GPU 效率。OFU 源自芯片上的性能计数器，无需应用程序插桩，因此适用于不同的 GPU 代和精度。在生产训练作业上进行测试时，OFU 与应用程序级指标显示出很强的相关性，并有助于识别效率回归和框架计算错误。 AI
影响 为监控和提高 AI 训练基础设施的效率提供了一种实用的方法。
排序理由 该集群包含一篇详细介绍 GPU 效率新指标的学术论文。[lever_c_demoted from research: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
