Metropolis Hastings Algorithm
PulseAugur coverage of Metropolis Hastings Algorithm — every cluster mentioning Metropolis Hastings Algorithm across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
随机采样在AI数据质量剖析中优于复杂方法
一篇新的研究论文介绍了一个用于大规模AI流水线数据质量剖析的基准测试，评估了九种不同的采样策略。研究发现，简单的、无模式的随机均匀采样表现最佳，在各种真实世界和合成数据集上实现了最低的平均相对误差。相比之下，更复杂的代理引导方法，如使用Metropolis-Hastings或有向无环图的方法，效果明显较差，且计算成本更高，尤其是在大规模应用中。
-
新的贝叶斯方法增强了自然语言AI假设的不确定性
研究人员引入了Verbalized Particle Posterior (VPP)，一个新颖的贝叶斯推理框架，旨在增强Verbalized Machine Learning (VML)中的不确定性量化。VPP将自然语言假设视为粒子，使用Metropolis-Hastings或Sequential Monte Carlo算法进行更新。这种方法允许LLM充当黑盒，无需直接访问logits或梯度。VPP在回归、分类和规则发现基准测试中表现…
-
新的采样方法在不更新参数的情况下提升了大型语言模型的推理能力
研究人员开发了一种名为熵引导功率采样（EGPS）的新采样方法，以提高基础语言模型的推理能力。该方法通过关注序列内的高熵区域来解决传统Metropolis-Hastings采样器的低效问题，从而实现更快、更有效的采样。EGPS在MATH500、HumanEval和GPQA等基准测试中表现强劲，与现有技术相比实现了显著的加速。
-
新的 MCMC 框架使用收缩原理来界定混合时间
研究人员开发了一个新的框架来分析马尔可夫链蒙特卡洛 (MCMC) 算法，重点关注收缩原理。该框架利用 Eγ-散度下的全局和局部收缩系数来证明混合时间界限。该方法为投影 Langevin Monte Carlo 提供了直接的指数收敛证明，并为 Metropolis-Hastings 算法提供了热启动收敛界限，即使在重尾情况下也是如此。
-
新的Stereographic Multiple-Try Metropolis算法增强了高维采样
研究人员开发了一系列新的无梯度算法，称为Stereographic Multiple-Try Metropolis (SMTM)，用于采样高维分布。这种新颖的方法将multiple-try Metropolis (MTM)与stereographic MCMC框架相结合，以解决传统MTM的局限性，特别是在高维空间中的收敛问题。SMTM在模拟中已证明比现有方法具有更优越的性能和鲁棒性，使其成为复杂统计建模的有前途的工具。