研究人员开发出一种更准确的方法来预测 AI 模型微调作业的持续时间,超越了简单的 FLOPs 计算。通过分析 NVIDIA H200 GPU 上的 272 次生产运行,他们发现传统的基于 FLOPs 的估算仅能解释观测到的作业时间的一小部分。一个 CatBoost 回归器利用了诸如评估频率和检查点策略等预调度信息,实现了显著更高的准确性,平均绝对误差仅为 1.71 小时。 AI
影响 改进了 AI 微调作业的调度和资源利用率,减少了空闲时间和项目延误。
排序理由 该集群描述了一种新的方法论和对生产运行分析的发现,作为即将发布的论文的预览。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →