实体
Uniform Discrete Diffusion Models
Uniform Discrete Diffusion Models
PulseAugur coverage of Uniform Discrete Diffusion Models — every cluster mentioning Uniform Discrete Diffusion Models across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究表明，统一离散扩散模型可能不需要时间条件
研究人员调查了统一离散扩散模型（UDMs），发现这些模型常用的显式时间条件在实践中可能常常是不必要的。虽然理论上，最优的UDM预测器依赖于时间来衡量对观察到的上下文的信任度，但在语言建模等实际的有限数据环境中，这种依赖性变得微不足道。实证研究表明，在各种数据集和训练目标上，与时间条件模型相比，时间无关的预测器表现具有竞争力，有时甚至更优，这挑战了UDMs中时间条件的标准做法。
-
新的UDM-GRPO框架提升离散扩散模型性能
研究人员推出UDM-GRPO，一个将统一离散扩散模型（UDMs）与强化学习相结合以改进离散生成模型的新框架。该方法通过将最终的干净样本视为一个动作，并通过扩散前向过程重构轨迹，从而提高了训练稳定性和性能。诸如Reduced-Step和CFG-Free等附加策略进一步提高了效率，在文本到图像任务、OCR基准测试和其他应用中取得了最先进的结果。