研究人员推出了一种新颖的训练框架 Multi-Token Autoregressive (MTAR),旨在提高自回归图像生成效率。MTAR 通过引入多令牌预测 (MTP) 以获得更强的监督,令牌级对比正则化 (TCR) 以提高表示可分离性,以及用于加速训练的语义丢弃 (SD) 来解决传统下一个令牌预测的局限性。这些组件仅在训练期间使用,不影响推理速度。在 ImageNet 上的实验表明,MTAR 在生成质量和训练效率之间取得了卓越的平衡,其 FID 分数更低,训练时间显著缩短,性能优于 LlamaGen。 AI
影响 这个新的训练框架可能带来更高效、更高质量的图像生成模型。
排序理由 该集群包含一篇详细介绍新图像生成方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Autoregressive Image Generation
- ImageNet
- LlamaGen
- Multi-Token Autoregressive (MTAR)
- Multi Token Prediction
- semantic dropping (SD)
- token-level contrastive regularization (TCR)
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →