研究人员发现,扩散 Transformer 中的加速,特别是 REPA 和分散正则化等方法,受到 AdaLN-Zero 残差门控重组的显著影响。这表明训练速度的提高可能源于内部门控路径的重塑,而不仅仅是显式的特征结构。该研究引入了归一化参与率 (nPR) 来衡量门控组织,发现更广泛的参与与更好的生成质量相关。提出了一种基于特征范数正则化的无教师径向目标,在 ImageNet 上展示了改进的 FID 分数,同时促进了更广泛的门控参与。 AI
影响 确定了加速扩散模型训练的关键机制,可能导致更高效的开发和部署。
排序理由 学术论文,详细介绍了扩散模型训练的新发现。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →