新基准显示，扩散模型存在概念主导不平衡问题

研究人员在文本到图像的扩散模型中发现了一种称为“主导-被主导”（Dominant-vs-Dominated, DvD）失衡的现象，即在一个概念生成过程中，一个概念标记（token）会频繁地压制其他概念。为了研究这一问题，研究人员开发了一个新的基准测试 DominanceBench，考察其在数据和模型内部机制方面的根源。研究发现，从视觉上同质的训练数据中学到的概念更容易出现主导现象，主导标记在去噪过程早期就吸引了注意力，阻碍了竞争概念的表示。这种主导现象似乎分布在多个注意力头中，而不是局限于某个特定头。 AI

影响 识别出扩散模型中的一种关键失效模式，该模式可能会阻碍可靠的多概念生成。

排序理由 研究论文，详细介绍了一种新的扩散模型失效模式，并引入了一个用于研究该模式的基准测试。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Diffusion Models
• DominanceBench
• Gotit.pub
• Hayeon Jeong
• Hugging Face
• IArxiv
• ScienceCast

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →