SiT-B/2

扩散 Transformer 加速与残差门控重组相关

研究人员发现，扩散 Transformer 中的加速，特别是 REPA 和分散正则化等方法，受到 AdaLN-Zero 残差门控重组的显著影响。这表明训练速度的提高可能源于内部门控路径的重塑，而不仅仅是显式的特征结构。该研究引入了归一化参与率 (nPR) 来衡量门控组织，发现更广泛的参与与更好的生成质量相关。提出了一种基于特征范数正则化的无教师径向目标，在 ImageNet 上展示了改进的 FID 分数，同时促进了更广泛的门控参与。