Masked Diffusion Model
PulseAugur coverage of Masked Diffusion Model — every cluster mentioning Masked Diffusion Model across labs, papers, and developer communities, ranked by signal.
-
新的DCGC框架使用扩散模型来纠正LLM推理错误
研究人员开发了DCGC,一个利用掩码扩散模型(MDMs)来纠正大型语言模型(LLMs)中错误推理轨迹的新颖框架。该方法使用来自上游求解器的不完美解决方案草稿作为辅助上下文,结合特定任务的监督微调(SFT)和一种称为动态双CFG的独特推理时机制。DCGC在数学、编码和知识推理基准测试中展示了更高的准确性,尤其是在无法获得真实失败标签的情况下,它充当了一个无验证器的全局校正模块。
-
LaViDa 模型通过更快、更可控的扩散技术推进多模态人工智能 · 跟踪 3 个来源
研究人员开发了 LaViDa,这是一系列基于离散扩散的多模态模型,与自回归模型相比,它提供了更快的推理速度和更好的可控性。LaViDa 在 MMMU 等基准测试中取得了有竞争力的性能,并在需要双向推理的任务中表现出色。在此基础上,Lavida-O 被引入为一个统一的理解和生成框架,能够处理从对象定位到高分辨率文本到图像合成的各种任务,并取得了最先进的结果。进一步的优化产生了 Sparse-LaViDa,它通过动态截断不必要的 toke…
-
新的MDM-VGB采样器通过奖励引导的重新掩码增强了扩散模型
研究人员开发了MDM-VGB,一种新颖的离散扩散采样器,旨在增强掩码扩散模型(MDMs)。该新方法集成了奖励引导的重新掩码,其灵感来自Jerrum-Sinclair回溯马尔可夫链,以改善高奖励生成和样本编辑。MDM-VGB在掩码状态图上运行,允许灵活地取消掩码和重新掩码标记,以偏好更高价值的配置。该方法在理论上是稳健的,并实现了二次复杂度,优于最佳N等启发式方法,并在数独和QM9等基准测试上得到了实证验证。