Target Score Identity

扩散模型展示出固有的注意力机制和改进的采样技术 · 跟踪了7个来源

近期研究探索了扩散模型（一种主流的图像生成架构）的进展。一篇论文揭示了这些模型固有地利用了类似于Transformer的注意力机制，这表明注意力是一种通用的机器学习原理。另一项研究引入了控制变量分数匹配（CVSI）来提高扩散模型的采样效率并降低方差。此外，一种名为优势加权匹配（AWM）的新方法将强化学习目标与扩散模型的预训练相结合，从而显著加快了生成质量。