研究人员调查了统一离散扩散模型(UDMs),发现这些模型常用的显式时间条件在实践中可能常常是不必要的。虽然理论上,最优的UDM预测器依赖于时间来衡量对观察到的上下文的信任度,但在语言建模等实际的有限数据环境中,这种依赖性变得微不足道。实证研究表明,在各种数据集和训练目标上,与时间条件模型相比,时间无关的预测器表现具有竞争力,有时甚至更优,这挑战了UDMs中时间条件的标准做法。 AI
影响 挑战了扩散模型设计中的一个普遍假设,可能简化训练并提高性能。
排序理由 详细介绍扩散模型新发现的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →