研究发现寄存器 token 可增强像素空间扩散 Transformer

研究人员调查了寄存器 token 在扩散 Transformer (DiTs) 中的效用，发现虽然 DiTs 不像 Vision Transformers (ViTs) 那样表现出相同的 patch-token 异常值，但它们仍然受益于寄存器 token。研究表明，寄存器在像素空间 DiTs 中比在潜在空间 DiTs 中更有效，可能通过在更高噪声水平下产生更清晰的特征图。在此发现的基础上，该论文介绍了寄存器引导（Register Guidance），一种增强寄存器 token 影响以改善生成图像视觉结构和连贯性的方法。 AI

影响 这项研究可能带来扩散模型图像生成质量和连贯性的提升。

排序理由 该集群包含一篇详细介绍人工智能模型架构新研究的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

• arXiv
• Diffusion Transformers
• Hugging Face
• latent-space DiTs
• Nikita Starodubcev
• pixel-space DiTs
• Register Guidance
• register tokens
• Vision Transformers

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →