long skip connections

扩散 Transformer 在没有长跳跃连接的情况下表示学习能力减弱

一篇新发表在 arXiv 上的研究论文探讨了扩散 Transformer (DiT) 作为表示学习器的性能。研究发现，尽管 DiT 模型具有强大的生成能力，但与之前的文献相比，它们产生的特征往往较弱。研究将此归因于缺少长跳跃连接 (LSCs)，并证明了它们的加入可以显著提高特征质量。该论文详细介绍了 LSCs 如何通过允许扩散噪声绕过主骨干网络来帮助模型，从而保持图像信号的完整性并增强特征提取。