研究人员为流（RF）模型开发了一种称为最优自蒸馏（SD）的方法，旨在改进生成模型训练。该技术涉及在真实 RF 速度和次优教师速度的混合物上训练学生模型。该研究提供了一个理论框架，推导了一个最优混合系数和一个避免广泛网格搜索的验证程序。实验表明，与现有方法相比，这种最优自蒸馏提高了速度估计、模式恢复和生成准确性。 AI
影响 这项研究为训练生成模型提供了理论和实验上的改进，有望带来更准确、更强大的 AI 系统。
排序理由 该集群包含一篇详细介绍生成模型新方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
Modern generative models are increasingly trained using model-generated signals, creating both opportunities for self-improvement and risks of collapse. We study optimal self-distillation (SD) for rectified flow (RF): given a suboptimal teacher velocity field, can a student train…
arXiv:2607.14947v1 Announce Type: new Abstract: Modern generative models are increasingly trained using model-generated signals, creating both opportunities for self-improvement and risks of collapse. We study optimal self-distillation (SD) for rectified flow (RF): given a subopt…