Langevin
PulseAugur coverage of Langevin — every cluster mentioning Langevin across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新理论量化了Langevin-regularized SVGD的收敛性
本文介绍了一个新的理论框架,用于理解Langevin-regularized Stein Variational Gradient Descent (SVGD)。该研究为该方法建立了到目标分布的定量收敛保证和统一时间混沌传播。研究结果详细说明了Stein和Langevin组件如何共同作用来耗散相对熵,从而在某些对数条件下实现指数级收敛速率。此外,本文还提出了混沌传播的有限时间分析,在Wasserstein距离和核Stein差异方面提供…
-
新的理论界限改进了复杂分布的Langevin采样
研究人员为Moreau--Yosida未调整Langevin算法(MYULA)开发了新的理论界限,这是一种用于从复杂概率分布采样的算法。该研究侧重于非光滑复合目标,并引入了一个新指标——活动迹(active trace),与以前的方法相比,该指标能更好地控制算法的离散化误差。这一进展可能导致更有效的机器学习采样技术,特别是在涉及强凸和Lipschitz梯度的问��中。
-
新研究提供更快的马尔可夫链收敛方法
两篇新研究论文提出了加速马尔可夫链收敛的新方法。第一篇论文引入了一个称为“渐近等价于目标”的标准,提供了一条无需依赖不可约性或非周期性等传统概念即可直接证明收敛的途径。第二篇论文提出了一个称为“延迟接受正则化和退火”(DART)的框架,该框架通过利用目标密度的几何信息而不直接计算梯度来实现马尔可夫链更快的混合时间。
-
新的HMC算法解决了偏差并加速了采样时间 · 跟踪7个来源
研究人员开发了新的方法来解决哈密顿蒙特卡洛(HMC)算法中的偏差并提高效率。一项研究将偏差去局域化的概念扩展到未调整的HMC和欠阻尼Langevin方法,表明有限数量的积分步数可以控制高维分布中的偏差。另一篇论文介绍了随机哈密顿蒙特卡洛(RHMC),该方法通过使用随机积分时间,证明了从对数凹分布采样的加速混合时间保证。第三种方法,驯服随机梯度哈密顿蒙特卡洛(tSGHMC),被提出用于具有超线性增长梯度的优化问题,提供了理论保证,并在实…
-
新的Malliavin微积分方法估计自适应IRL的反事实梯度
研究人员开发了一种新颖的被动自适应逆强化学习(IRL)算法,该算法通过观察前向学习者的梯度来重建其损失函数。这种新方法利用Malliavin微积分来有效地估计反事实梯度,这在被动IRL场景中至关重要但难以获得。通过将条件化重塑为涉及Malliavin量的不条件期望之比,该算法实现了标准的估计速率,并为这个复杂的梯度估计问题提供了一种具体的方法。