Markov chain Monte Carlo
PulseAugur coverage of Markov chain Monte Carlo — every cluster mentioning Markov chain Monte Carlo across labs, papers, and developer communities, ranked by signal.
- competes with Variational Inference 70%
- used by Metropolis-Hastings algorithm for extracting periodic gravitational wave signals from laser interferometric detector data 70%
- used by alphaXiv 60%
- used by Gotit.pub 60%
- used by ScienceCast 60%
- used by CatalyzeX 60%
- used by CORE Recommender 60%
- used by Influence Flower 60%
- used by Bayes' theorem 60%
- used by partial differential equation 60%
- competes with alphaXiv 50%
- other CORE Recommender 50%
9 天有情绪数据
-
新的马尔可夫链蒙特卡洛采样器增强了切换随机微分方程的贝叶斯推断
研究人员开发了一种用于切换随机微分方程(SSDEs)的新型近似马尔可夫链蒙特卡洛(MCMC)采样器。该方法利用均匀化和时间条件因子化神经网络似然估计(FNLE)来解决SSDEs的贝叶斯推断中的挑战。所提出的采样器具有广泛的适用性,克服了先前方法的局限性,例如需要无噪声观测或单变量状态,并在合成实验中成功恢复了状态路径和参数,并在真实世界数据中检测到了状态转换。
-
新的稀疏图方法使用哈密顿动力学进行多模态采样
研究人员开发了一种新颖的稀疏图方法,利用阻尼非局部哈密顿动力学将概率质量向多模态目标分布传输。该方法结合了对数平均迁移率和对称Lévy型相互作用权重,将演化的密度与边动量场联系起来。该方法提供了确定性的密度演化,成本与节点数量和长距离采样预算成线性关系,实验表明与现有基线相比,模式平衡得到改善,模式覆盖稳定。
-
新的基于流的模型加速复杂逆问题的解决方案 · 跟踪 2 个来源
两篇新的研究论文探讨了使用基于流的生成模型解决逆问题的先进方法。第一篇论文介绍了条件流匹配,作为传统马尔可夫链蒙特卡洛方法的一种摊销替代方案,为贝叶斯逆问题提供更快、更独立的后验样本。第二篇论文提出了 MS-Flow,一种将生成轨迹表示为中间潜在状态序列的技术,以降低内存成本并提高图像恢复和计算机断层扫描等应用中的重建质量。
-
新的进化算法提供高效的稀有事件采样
研究人员推出了一种用于生成模型中稀有事件采样的新方法——分布匹配进化算法(DME)。与需要更新模型权重的传统方法不同,DME将进化算法解释为近似马尔可夫链蒙特卡洛(MCMC),从而无需直接优化即可从复杂分布中采样。与需要大量样本来识别解决方案的现有技术相比,该方法在需要大量样本来识别解决方案的问题上表现出更高的样本效率。
-
新的Barker提案变体增强了蒙特卡洛采样算法
研究人员引入了Barker提案的新版本,这是一种利用斜对称分布改进马尔可夫链蒙特卡洛(MCMC)采样的Metropolis-Hastings算法。该论文详细介绍了该算法的无坐标、Gibbs风格和流形版本。数值实验表明,Gibbs风格变体提高了相关目标的采样效率,而简化的流形Barker算法在不规则目标几何形状上显示出优于MALA的显著优势。
-
新的采样方法提升了 LLM 的监督微调效果
研究人员开发了一种新的采样算法,可以增强大型语言模型(LLM)的监督微调(SFT)。这种马尔可夫链蒙特卡洛(MCMC)方法将离策略数据轨迹转换为更符合同策略学习的方式,使 SFT 在泛化能力上能够媲美甚至超越传统的强化学习技术,并减少灾难性遗忘。该方法在科学技能获取和数学推理等各种任务中表现强劲,并将采样视为模型后训练的一种通用基元。
-
新方法取代扩散后验采样中的MCMC
研究人员开发了一个新颖的基于学习的框架,用于取代扩散后验推理中Split Gibbs采样中计算量大的马尔可夫链蒙特卡洛(MCMC)步骤。该新方法将Gibbs更新重新表述为高斯去噪问题,利用ODE扩散和轻量级深度展开网络作为似然去噪器。在非线性相位恢复任务上的实验表明,与传统的基于MCMC的Split Gibbs方法相比,该方法实现了更低的似然更新成本。
-
Metropolis-within-Gibbs 算法的新谱隙界限
研究人员为 Metropolis-within-Gibbs (MwG) 算法建立了一个新的谱隙下界。MwG 是一种常用的马尔可夫链蒙特卡洛方法,用于从复杂分布中采样。该研究侧重于在对数凹函数假设下使用随机游走 Metropolis 更新的 MwG,将现有界限从 \(\\Omega((\\kappa^2 d)^{-1})\) 提高到 \(\\Omega((\\kappa d)^{-1})\)。这一理论进展表明,经过适当调整的 MwG 可…
-
新的MCMC算法提供灵活的图划分采样
研究人员推出了一种新的马尔可夫链蒙特卡洛(MCMC)算法——标记边行走(MEW),用于采样图划分。与之前偏好与生成树相关的分布的RevReCom和MFR等方法不同,MEW在带有标记边的生成树上运行。这使得Metropolis-Hastings算法内的转移概率可计算,从而能够生成更灵活的集合。在真实世界双图上的实证测试表明,MEW能够在更广泛的目标分布下收敛,包括用于竞争性、紧凑性和党派对称性的基于策略的分布,同时减少对生成树计数的偏见。
-
新研究比较了用于大气化学速率优化的神经网络和MCMC方法
一篇新的研究论文评估了两种优化大气化学机理中反应速率系数的截然不同的方法。该研究比较了常微分方程约束的神经网络优化(提供高效的点估计)与马尔可夫链蒙特卡洛(MCMC)采样(量化参数不确定性)。虽然在干净数据下神经网络方法被证明更快,但在高噪声条件下MCMC在恢复速率系数方面表现出更强的鲁棒性,突出了这两种技术在复杂逆问题中的互补优势。
-
IsingFormer 使用学习建议增强 MCMC 采样
研究人员开发了 IsingFormer,这是一种新颖的基于 Transformer 的模型,旨在增强马尔可夫链蒙特卡洛 (MCMC) 方法,特别是并行退火 (PT)。该模型生成的建议显著提高了 MCMC 混合在采样和优化任务中的效率。在 3D 自旋玻璃实例上的测试中,Transformer-Augmented Parallel Tempering (TAPT) 框架实现了比标准 PT 更低的残余能量。此外,在扩展研究中,TAPT 证明…
-
新型算子学习方法加速SDE采样
研究人员开发了一种新颖的方法,通过将算子学习与流方法相结合,从随机微分方程(SDE)的不变测度中进行高效采样。该方法训练一个神经采样器,将SDE系数函数映射到所需的不变测度,在初始训练阶段后显著降低新实例的成本。该框架利用拉格朗日轨迹传感器和交叉注意力机制来处理高维问题,与传统的MCMC方法相比,在准确性和速度方面均具有竞争力,尤其是在混合缓慢的SDE方面。
-
仿生AI框架使用概率内存计算
本文提出了一个受生物启发的学习和决策框架,该框架利用概率内存计算硬件。它将动物认知建模为贝叶斯过程,将感官证据与先验信念相结合以管理不确定性。研究表明,噪声神经和突触动力学可以通过随机采样执行推理和学习,使系统能够捕捉潜在状态和模型参数上的不确定性。这种方法与新兴的模拟内存计算技术一致,为可扩展且节能的概率推理提供了一条途径。
-
新研究优化混合切片采样用于马尔可夫链蒙特卡洛
一篇新的研究论文介绍了一种优化的混合切片采样方法,这是一种用于马尔可夫链蒙特卡洛算法的技术。该论文分析了寻找近似切片相关的计算成本,并开发了自动化、自适应的调优方案。这些方案旨在无论初始切片宽度如何都能实现近乎最优的性能,并有理论上的次优界限和收敛保证作为支持。
-
扩散模型适用于离散任务和最大熵生成
研究人员正在探索新颖的扩散模型技术,以提高在离散任务上的性能。一种方法是修改采样过程,以防止早期错误持续存在,从而显著提高数独和N皇后等问题的准确性。另一种方法是矩引导扩散(MGD),它将扩散模型与最大熵原理相结合,从有限信息中生成样本,为复杂科学领域的传统MCMC方法提供了一种更有效的替代方案。
-
新的贝叶斯推断方法使用热力学循环来测量非高斯性
研究人员引入了马尔可夫链蒙特卡洛(MCMC)循环的概念,将其与热力学循环过程在热机中的类比联系起来,用于分析贝叶斯推断问题。他们开发了自适应集成调度器来调整MCMC运行期间的外部参数,从而能够实际实现这些循环。一个关键的发现是,当且仅当模型是非高斯时,这些系统才能产生净功输出,这表明它们可能被用作贝叶斯推断中非高斯性的度量,并以超新星宇宙学的一个例子进行了证明。
-
新的NeVI-Cut方法可在无上游数据的情况下实现不确定性传播
研究人员开发了NeVI-Cut,一种用于割贝叶斯问题的新型神经变分推理方法。该方法允许在下游分析中传播参数不确定性,而无需访问原始上游数据或模型。NeVI-Cut利用条件归一化流和期望 Kullback-Leibler 散度的样本平均近似来实现计算效率和准确性。该方法已在各种应用中证明了其速度和有效性,并具有收敛率的理论保证。
-
新AI方法在数据稀疏的情况下改进材料属性预测 · 跟踪4个来源
研究人员开发了新的材料属性预测方法,特别是在数据有限的情况下。FrOGS是一种离散神经采样器,它采用混合方法,结合了自回归模型和连续时间马尔可夫链,以准确估算各种化学条件下的热力学性质。此外,DISTAL和SemiMat框架解决了与结构无关的材料属性预测问题。DISTAL利用了自监督的成分预训练和来自结构感知模型的知识蒸馏,而SemiMat则引入了一个基准和一种称为MatRank的可靠性加权目标,用于半监督回归,两者都旨在在结构或标记…
-
新的两步Metropolis-Hastings算法增强了贝叶斯经验似然方法
研究人员开发了一种新颖的两步Metropolis-Hastings算法,旨在提高贝叶斯经验似然(BayesEL)方法马尔可夫链蒙特卡洛(MCMC)采样的效率。这种新方法解决了先前限制BayesEL应用的复杂性和非凸性问题,尤其是在联合分位数回归等领域。该算法通过使用当前参数值来提议剩余参数的新值,从而促进了从BayesEL后验分布的采样,并且可以通过可逆跳跃MCMC程序扩展到贝叶斯模型选择。
-
新的贝叶斯框架通过不确定性量化增强点云数据分析
已开发出一种新的贝叶斯框架,用于分析由现代成像和传感器技术普遍生成的点云数据。该框架通过提供一种概率方法来进行曲线重建,从而解决了大数据量、噪声和信息缺失等挑战。该方法利用马尔可夫链蒙特卡洛 (MCMC) 算法来推断后验分布,从而能够对恢复的曲线进行不确定性量化。对合成数据和真实 LiDAR 数据集的实验证明了该框架在准确重建曲线的同时,还能提供结果置信度度量。