Metropolis--Hastings
PulseAugur coverage of Metropolis--Hastings — every cluster mentioning Metropolis--Hastings across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新技术在无需重新训练的情况下增强LLM推理能力
研究人员推出了一种名为解耦边际锐化（Decoupled Marginal Sharpening, DMS）的新技术，可以在推理时增强大型语言模型（LLM）的推理能力，而无需更新模型权重或使用外部奖励模型。DMS通过分别控制模型对特定推理路径的偏好及其最终答案的选择，解决了现有幂采样方法中的挑战。这种方法允许探索多样化的推理路径，然后更侧重于具有更大聚合支持的答案。在多个基准测试和LLM上的实验表明，DMS在提高推理任务的准确性方面优于现有方法。
-
新方法增强格点场论的生成采样
研究人员开发了一种名为算子引导模型降阶的新方法，以改进格点场论中的生成采样。该技术将训练好的神经网络速度投影到由格点算子和傅里叶模式导出的向量场上。在二维格点 $\phi^4$ 理论上的测试中，该方法有效地分离和管理了不同类型的涨落，提高了提议分布和目标分布之间的重叠度，并产生了与独立计算一致的配分函数估计值。
-
新证明推进了用于采样的Dikin游走混合时间分析
研究人员开发了新的方法来分析加权Dikin游走的混合时间，该方法用于从多面体上的指数分布和截断的半正定（PSD）锥体进行采样。第一种方法通过控制高概率区域的Metropolis-Hastings接受概率来提供一个通用的混合界限，从而为多面体得到$\\widetilde O(d^2)$的混合界限，为截断的PSD锥体得到$\\widetilde O(d^4)$的混合界限。第二个结果改进了$\\chi^2$-散度保证和逐点接受控制，在特定度…
-
新的HMC算法解决了偏差并加速了采样时间 · 跟踪7个来源
研究人员开发了新的方法来解决哈密顿蒙特卡洛（HMC）算法中的偏差并提高效率。一项研究将偏差去局域化的概念扩展到未调整的HMC和欠阻尼Langevin方法，表明有限数量的积分步数可以控制高维分布中的偏差。另一篇论文介绍了随机哈密顿蒙特卡洛（RHMC），该方法通过使用随机积分时间，证明了从对数凹分布采样的加速混合时间保证。第三种方法，驯服随机梯度哈密顿蒙特卡洛（tSGHMC），被提出用于具有超线性增长梯度的优化问题，提供了理论保证，并在实…