Metropolis-Hastings algorithm for extracting periodic gravitational wave signals from laser interferometric detector data
PulseAugur coverage of Metropolis-Hastings algorithm for extracting periodic gravitational wave signals from laser interferometric detector data — every cluster mentioning Metropolis-Hastings algorithm for extracting periodic gravitational wave signals from laser interferometric detector data across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
RoBART 通过旋转增强了贝叶斯加性回归树
研究人员引入了 RoBART,一种用于贝叶斯加性回归树 (BART) 的新方法。RoBART 通过引入特定树旋转来解决传统 BART 在近似复杂边界方面的局限性。该方法允许在旋转坐标系中进行轴对齐分割,从而提高后验收缩率并适应内在维度,特别是对于各向异性 Hölder 平滑函数。
-
Metropolis-Hastings 算法改进 LLM 策略组合
一篇新研究论文介绍了一种名为 Metropolis-Hastings (MH) 的方法,该方法改进了大型语言模型 (LLM) 中策略组合的现有技术。该方法解决了在推理时组合特定奖励策略时出现的采样偏差问题。论文证明,在各种设置下,MH 的性能始终优于采样-重要性-重采样 (SIR),在给定的 rollout 预算内提供了更准确的输出分布。研究包括理论分析以及在简化和大规模 LLM 场景中的实验验证。
-
ZeNOVA 方法提供稳定、无梯度的生成模型对齐
研究人员开发了一种新的生成模型对齐方法 ZeNOVA,该方法无需梯度信息即可运行。这种方法在无法直接访问梯度的“黑盒”奖励场景中特别有用。ZeNOVA 利用退火软值引导、流形约束超球面 Langevin 动力学和 Metropolis-Hastings 跳跃,实现初始噪声的稳定高效优化。在图像和视频生成模型上的实验表明,ZeNOVA 在稳定性和奖励优化方面优于现有的无梯度方法。
-
新的MCMC算法提供灵活的图划分采样
研究人员推出了一种新的马尔可夫链蒙特卡洛(MCMC)算法——标记边行走(MEW),用于采样图划分。与之前偏好与生成树相关的分布的RevReCom和MFR等方法不同,MEW在带有标记边的生成树上运行。这使得Metropolis-Hastings算法内的转移概率可计算,从而能够生成更灵活的集合。在真实世界双图上的实证测试表明,MEW能够在更广泛的目标分布下收敛,包括用于竞争性、紧凑性和党派对称性的基于策略的分布,同时减少对生成树计数的偏见。
-
新的HyperMC框架优化SGMCMC超参数
研究人员开发了HyperMC,一种用于优化随机梯度马尔可夫链蒙特卡洛(SGMCMC)方法中超参数的新颖框架。该方法利用多保真度调优策略,结合Hyperband风格的资源分配和核Stein差异(KSD)评估,以有效地探索超参数空间。在逻辑回归和贝叶斯神经网络等各种模型上的实验表明,与现有方法相比,HyperMC增强了后验近似和预测校准。
-
新的 MCMC 采样器使用偏好投票进行条件采样
研究人员开发了 Pref-MH,一种新颖的马尔可夫链蒙特卡洛 (MCMC) 采样器,它能够从由语义属性定义的分布中进行精确的条件采样,即使在无法进行精确密度评估的情况下也是如此。该方法利用成对比较,类似于 Bradley-Terry 模型,来推断偏好赔率并计算 Metropolis-Hastings 比率。Pref-MH 被证明在其类别中是最优的,并已成功应用于文本生成、分子设计以及使用大型语言模型和视觉-语言模型作为裁判的图像生成等任务。
-
新的两步Metropolis-Hastings算法增强了贝叶斯经验似然方法
研究人员开发了一种新颖的两步Metropolis-Hastings算法,旨在提高贝叶斯经验似然(BayesEL)方法马尔可夫链蒙特卡洛(MCMC)采样的效率。这种新方法解决了先前限制BayesEL应用的复杂性和非凸性问题,尤其是在联合分位数回归等领域。该算法通过使用当前参数值来提议剩余参数的新值,从而促进了从BayesEL后验分布的采样,并且可以通过可逆跳跃MCMC程序扩展到贝叶斯模型选择。
-
新的离散状态采样算法利用Nesterov加速
研究人员开发了一类新的离散状态采样算法,该算法建立在Nesterov加速梯度法的基础上。该方法通过将传统Metropolis-Hastings算法的概率分布演化解释为KL散度上的梯度下降,从而对其进行了扩展。所提出的方法利用离散Wasserstein-2度量和迁移函数,通过阻尼哈密顿流实现基于动量的加速。还引入了一个粒子相互作用系统来近似这些加速采样动力学,并通过数值示例证明了其在估计离散得分函数方面的有效性。
-
新的主动逆声源定位方法统一了推理和控制
研究人员开发了一种新颖的基于信念收缩的主动逆声源定位与识别(ISLC)方法。该方法在单一框架内统一了推理、停止和控制。该系统利用注意力增强粒子滤波器来稳定贝叶斯信念更新,并结合Metropolis-Hastings पुनर्जीवन以提高准确性。这种方法能够在没有到声源距离塑造的情况下进行强化学习,并且在各种场模态和具有挑战性的测试条件下,与现有基线相比,表现出优越的性能。
-
新研究提供更快的马尔可夫链收敛方法
两篇新研究论文提出了加速马尔可夫链收敛的新方法。第一篇论文引入了一个称为“渐近等价于目标”的标准,提供了一条无需依赖不可约性或非周期性等传统概念即可直接证明收敛的途径。第二篇论文提出了一个称为“延迟接受正则化和退火”(DART)的框架,该框架通过利用目标密度的几何信息而不直接计算梯度来实现马尔可夫链更快的混合时间。
-
新的NHMC方法提高了玻尔兹曼采样精度
研究人员开发了一种名为神经非平衡哈密顿蒙特卡洛(NHMC)的新方法,用于从玻尔兹曼密度进行更精确的采样。该方法训练一个采样器来生成随机的哈密顿风格路径,然后使用记录的非平衡功对这些路径进行统计校正。NHMC在估计归一化常数和自由能差方面显示出潜力,已在包括分子内坐标研究在内的各种测试用例中得到验证,尽管其有效性取决于路径重叠是否充分。
-
BayesPO框架使用贝叶斯采样进行LLM提示优化
研究人员开发了BayesPO,一个用于优化大型语言模型提示的新框架,且无需更改模型参数。该方法将提示优化视为贝叶斯后验采样,将特定任务的奖励与语言模型先验相结合,以指导离散马尔可夫链蒙特卡洛提案。使用Qwen2.5模型的实验表明,BayesPO可以发现语义上有意义的提示,并提高诊断任务的准确性,尽管它目前面临计算成本和潜在过拟合的限制。
-
新的扩散距离指标超越局部模式测量空间聚类
研究人员引入了一种名为扩散距离的新指标来测量空间聚类。该指标通过考虑全局图几何结构而非仅仅局部模式,扩展了像Moran's I这样的传统空间自相关度量。扩散距离源于图约束马尔可夫链下概率分布收敛率,具体使用了Metropolis-Hastings算法。所提出的方法为空间聚类提供了理论界限和统计检验,在合成数据上显示出比Moran's I更高的功效,并揭示了美国城市中城市隔离模式的细微差别。
-
新方法利用Metropolis-Hastings对称性优化MCMC算法缩放
一篇新发表在arXiv上的论文详细介绍了一种优化Metropolised马尔可夫链蒙特卡洛(MCMC)算法在维度增加时的缩放特性的通用方法。该方法利用Metropolis-Hastings公式固有的对称性,为各种提议机制推导出新的最优缩放结果。该框架包含了随机游走Metropolis和MALA等算法的现有发现,同时也为基于隐式和微分方程积分器的提议提供了新颖的最优缩放。
-
新的优先级感知Shapley值方法增强了AI数据估值
研究人员推出了一种新的数据估值和特征归因方法——优先级感知Shapley值(PASV),该方法解决了传统Shapley值的局限性。PASV结合了优先约束和贡献者特定的优先级权重,能够更细致地分配贡献。该方法具有自然公理和高效的Metropolis-Hastings采样器,可实现可扩展的估计。在MNIST、CIFAR-10和Census Income等数据集上的实验表明,PASV能够产生更符合结构分配并实现实际敏感性分析。
-
评论质疑基于机器学习的自旋子对密度波态发现
最近发表在《Physical Review X》上的一项研究声称,利用群等变卷积神经网络在 Kagome 海森堡反铁磁体中发现了一个自旋子对密度波基态。然而,arXiv 上的一篇新评论文章认为,报告的低能量是 Metropolis-Hastings 算法非遍历采样的伪影。当强制执行遍历采样时,神经网络收敛到更高的能量,这与原论文的发现相矛盾,并对其结论提出了质疑。
-
新的Stereographic Multiple-Try Metropolis算法增强了高维采样
研究人员开发了一系列新的无梯度算法,称为Stereographic Multiple-Try Metropolis (SMTM),用于采样高维分布。这种新颖的方法将multiple-try Metropolis (MTM)与stereographic MCMC框架相结合,以解决传统MTM的局限性,特别是在高维空间中的收敛问题。SMTM在模拟中已证明比现有方法具有更优越的性能和鲁棒性,使其成为复杂统计建模的有前途的工具。