研究人员调查了寄存器 token 在扩散 Transformer (DiTs) 中的效用，并将其与在视觉 Transformer (ViTs) 中的有效性进行了类比。ViTs 通过缓解高范数 patch-token 异常值来受益于寄存器 token，而 DiTs 则不表现出这些异常值，但使用寄存器仍能显示出改进。研究发现，与潜在空间 DiTs 相比，寄存器 token 对像素空间 DiTs 更有益，在更高噪声水平下能产生更清晰的特征图。这表明最近的像素空间 DiT 架构可能已经包含了类似的机制，而提出的寄存器引导技术通过放大寄存器 token 的贡献，进一步增强了视觉结构和连贯性。 AI
影响 这项研究可能通过改进扩散模型的内部表示，从而提高其图像生成质量和效率。
排序理由 该集群包含一篇详细介绍人工智能模型架构新研究发现的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
