PulseAugur
实时 15:06:05

RegToken 将视觉 Transformer 的伪影再利用以改进图像生成

研究人员开发了 RegToken,一种利用视觉 Transformer 中的“寄存器”来改进 token 化图像生成的新方法。这些寄存器通常被视为注意力伪影,被重新用作全局先验 token。通过应用涉及层局部化、子空间提取和投影的无训练过程,RegToken 在 ImageNet 等数据集上提高了图像生成质量和对齐指标。这种方法还可以在不改变模型预训练权重的情况下加速测试时间优化。 AI

影响 将注意力伪影再利用为全局先验,有可能提高 token 化图像生成模型的效率和质量。

排序理由 该集群包含一篇详细介绍新图像生成方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

RegToken 将视觉 Transformer 的伪影再利用以改进图像生成

报道来源 [1]

  1. arXiv cs.CV TIER_1 English(EN) · Cheng-Yao Hong, Yifan Wang, Yuewei Lin, Chenyu You ·

    Test-Time Registers as Global Priors for Tokenized Image Generation

    arXiv:2607.16824v1 Announce Type: new Abstract: Attention-based models often develop attention sinks, where a small number of tokens repeatedly attract attention and accumulate unusually large activations. In vision transformers, these outliers are closely related to registers, w…