MLP projection head

新的RECON方法可大幅缩短扩散Transformer的训练时间

研究人员推出了一种名为表示条件化（RECON）的新颖方法，可显著加速生成模型的扩散Transformer训练。RECON通过向预训练视觉编码器的后期层馈送令牌来改善其语义理解。这种方法不增加新参数，实现了显著的加速，比SiT快63倍，比REPA方法快25倍。该技术涉及在训练期间使用视觉编码器的令牌，并在推理期间使用MLP投影头作为代理来维持语义访问。