研究人员开发了一种循环扩散 Transformer(Looped Diffusion Transformer, Looped-DiT),通过在每个去噪步骤中重复应用共享的 Transformer 块来增强文本到图像的生成。这种方法在不增加参数数量的情况下增加了计算深度,从而实现了内部表示的迭代优化。Looped-DiT 在中间循环中引入了深度监督和自调制注意力,以稳定特征更新,在匹配的参数和计算条件下,其性能优于非循环模型。一个较小的循环模型可以超越一个规模大得多的非循环模型,证明了扩散模型更有效的迭代计算形式。 AI
影响 这种新架构为扩展文本到图像模型提供了一种更有效的方式,有望以更低的计算成本实现更高质量的生成。
排序理由 详细介绍新模型架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →