实体
Discrete diffusion model
Discrete diffusion model
PulseAugur coverage of Discrete diffusion model — every cluster mentioning Discrete diffusion model across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的张量训练建模提升离散扩散模型速度
研究人员引入了一个名为张量训练联合建模的新框架，以提高顺序数据的离散扩散模型的速度和效率。该方法通过显式地使用张量分解对联合分布进行建模，解决了当前模型中阻碍少步生成的局限性。该框架支持标准多重分解（CPD）和张量训练分解（TTD），其中TTD由于偏向于相邻标记依赖性，特别适合自然语言等顺序数据。通过微调，该方法可以集成到现有模型中，在减少计算成本的情况下显著提高少步生成能力。
-
离散扩散模型：理论框架揭晓
本文深入探讨了离散扩散模型的理论基础，通过分析其目标函数来探索它们学习到的内容。研究引入了“Oracle Distance”定理，该定理认为负ELBO精确等于数据熵加上Oracle反向过程与学习到的反向过程之间的路径KL散度。该框架允许在去噪器、空腔预测器和分数函数等不同参数化之间进行精确转换，并解释了在各种扩散模型实现中观察到的差异。