Advantage-Modulated Distillation

新的RL原生蒸馏框架提升图像生成效率

研究人员开发了一个名为REST（Reward-Enhanced Scored-Trajectory Distillation）的新框架，该框架将强化学习（RL）与少步蒸馏相结合，以实现更高效的文本到图像生成。该方法允许学生模型从RL教师轨迹的中间状态进行学习，避免了顺序训练成本。此外，引入了优势调制蒸馏（AMD）来将监督集中在首选轨迹上，从而提高学生模型的性能。实验表明，REST在训练量显著减少的情况下，可以达到或超过其40步RL教师的质量。