Langevin Diffusion
PulseAugur coverage of Langevin Diffusion — every cluster mentioning Langevin Diffusion across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
用于跟踪移动目标的 Langevin 动力学新界限
研究人员为 Langevin 动力学中跟踪目标分布开发了新的理论界限，Langevin 动力学是一种用于统计机器学习的方法。该研究侧重于目标分布随时间变化的情况，使用 Rényi 散度提供非渐近保证。该框架适用于连续时间 Langevin 扩散及其离散近似，并具体应用于涉及连续 Moreau 包络的采样技术。
-
新的 SG-TULA 算法为复杂的 AI 模型提供了改进的采样
研究人员开发了次梯度驯服无调整 Langevin 算法 (SG-TULA)，这是一种用于从复杂分布中采样的创新方法，这些分布是不可微、非凸的，并且具有超线性梯度增长。该算法直接在次梯度上运行，避免了计算密集型的平滑过程，并与现有的基于次梯度的 Langevin 算法相比，在 Wasserstein-2 距离上提供了改进的非渐近收敛界限。SG-TULA 已被证明能够有竞争力地预训练 GPT-2 系列的 LLM，表现与微调的 AdamW …
-
新研究探讨扩散模型、偏差缓解和强化学习应用 · 跟踪 10 个来源
近期研究探讨了扩散模型的进展，重点关注理论基础、优化技术和偏差缓解。一篇论文介绍了贝叶斯信息受限扩散（BIRD）模型，解释了扩散模型如何通过限制信息来泛化，并确定了记忆与泛化之间的相界。另一项工作 D2PO 使用动态偏好学习优化扩散采样器，提高了感知质量，性能优于基于回归的方法。此外，一种名为 CO-ALIGN 的新方法使用概念图对齐来减少文本到图像模型中的偏差，同时保持生成完整性。其他研究还探讨了扩散采样中的数值稳定性和强化学习中扩…
-
新算法提高了非对数凹形分布的采样复杂性
研究人员开发了一种从非对数凹形分布采样的算法，改进了先前的方法。该算法利用了对数凹形采样方面的最新进展，并使用受限高斯预言机（RGO）实现。这种方法在相对Fisher信息方面提供了与对数凹形采样维度依赖性相匹配的复杂性保证，标志着非对数凹形分布的改进。