Bayesian inference
PulseAugur coverage of Bayesian inference — every cluster mentioning Bayesian inference across labs, papers, and developer communities, ranked by signal.
9 天有情绪数据
-
从概率论角度解释Hamiltonian Monte Carlo
本文深入探讨了Hamiltonian Monte Carlo (HMC)，一种为现代贝叶斯推断和PyMC等统计机器学习框架提供支持的复杂算法。HMC起源于物理学，是马尔可夫链蒙特卡洛 (MCMC) 的一个变体，已广泛应用于流行病学和野火建模等领域。本文旨在逆向工程HMC，解释其概率基础以及如何生成后验分布，超越了通常基于物理学的动机。
-
新的基于脉冲的贝叶斯控制框架集成了神经模型
研究人员开发了一个新颖的贝叶斯控制框架，该框架将基于脉冲的动力学与概率推理相结合，用于自适应控制。该框架利用受生物学启发的脉冲神经网络模型，结合贝叶斯推理原理，创建了一个类大脑的控制算法。在山地汽车停车问题上进行了测试，该控制器通过脉冲驱动的动力学展示了实时状态更新和目标导向的动作生成，表明其有潜力成为计算神经科学与概率控制理论之间的桥梁。
-
新的BTYD模型利用摊销变分推断加速客户分析
研究人员开发了一系列新的购买-直至死亡（BTYD）模型，这些模型超越了传统的泊松过程假设。这些新模型利用威布尔更新过程，并采用摊销变分推断方案进行高效参数估计。这种方法显著减少了计算时间，在8分钟内即可拟合包含500万零售客户的数据集，而当前最先进的方法估计需要3-4天，同时不牺牲预测性能或可解释性。该框架还便于纳入协变量，如在包含400万政治捐助者的数据集上所展示的那样。
-
新研究将MDP规划视为策略上的贝叶斯推断
研究人员提出了一种新颖的马尔可夫决策过程（MDP）规划方法，将其构建为策略上的贝叶斯推断问题。这种概念上的转变将策略本身视为一个潜在变量，而预期回报则作为非归一化后验密度。通过在包括Blackjack和Triangle Tireworld在内的各种网格世界上的实验，检验了该方法的有效性，并将其诱导的行为与熵正则化策略优化进行了比较。
-
新框架用于概率分布中的比例类比
研究人员引入了一个用于概率分布比例类比的新框架，以贝叶斯更新作为核心机制。该方法将类比定义为通过贝叶斯推理，基于观测数据对分布进行的变换。研究在指数分布族内探讨了这一概念，并提出使用高斯混合模型近似来扩展到任意分布。
-
生成模型增强蒙特卡洛采样技术 · 2 篇论文
两篇最新的 arXiv 论文探讨了使用生成模型来增强复杂概率分布中采样技术的应用。第一篇论文介绍了一种面向 Lévy 驱动生成模型的生成器引导逆采样方法，将逆过程分解为扩散、小跳跃和大跳跃分量，以提高可解释性和可控性。第二篇论文回顾了使用生成模型（如归一化流和扩散模型）辅助蒙特卡洛采样的兴起范式，特别适用于高维和多模态分布，为物理学和机器学习研究人员提供了教程。
-
新研究比较了广义线性模型的MCMC、LA和VI复杂度
一篇新的arXiv论文探讨了广义线性模型中马尔可夫链蒙特卡洛（MCMC）方法的计算复杂度，并将其与拉普拉斯近似（LA）和变分推断（VI）进行了比较。研究表明，对于线性、逻辑回归和泊松回归，当样本量 $n$ 大约与维度 $d$ 成正比时，MCMC的复杂度缩放与一阶优化算法相当。这一发现表明，在比伯恩斯坦-冯·米塞斯定理先前确定的更一般的缩放条件下，MCMC在计算成本方面与LA和高斯VI具有竞争力。
-
新的EPIK方法增强了用于软件验证的贝叶斯学习
研究人员开发了EPIK，一种将贝叶斯学习与定量验证相结合的新方法，用于分析软件系统的可靠性和响应时间等属性。EPIK通过提取和嵌入直接可观察且具有语义意义的系统级属性来解决先验知识不准确或信息不足的挑战，而不是依赖于形式化模型的转移参数。实验评估证明了EPIK在各种真实案例研究中的有效性、灵活性和通用性。
-
新的自适应技术可高效重构玻色子量子态
研究人员开发了一种自适应重构技术，可以更有效地表征玻色子量子态。该方法利用贝叶斯推理、bootstrap和主动学习来选择最优测量点，从而能够从有限的测量次数中重构出Wigner函数。该技术在具有薛定谔猫态的电路量子电动力学平台上进行了测试，结果表明它对相空间变换具有鲁棒性，对态的缺陷敏感，并且能在几分钟内提供可复现的保真度估计。
-
新理论定义并衡量机器学习算法中的“遗忘”
研究人员提出了一个新的理论框架来理解和量化机器学习算法中的“遗忘”。该理论将遗忘定义为学习者预测分布的自我不一致性，导致预测信息的丢失。所提出的度量方法可应用于各种机器学习任务，包括分类、回归、生成模型和强化学习。跨领域实验表明，遗忘是深度学习中普遍存在的问题，影响学习效率。
-
新的深度Sigma点过程增强了SAR图像RCS建模
研究人员开发了一种深度Sigma点过程（DSPP）模型，以改进星载合成孔径雷达（SAR）图像的雷达散射截面（RCS）建模。该新模型利用具有贝叶斯推断的分层高斯过程框架来预测RCS并量化相关不确定性，超越了传统的确定性方程。在RADARSAT-2数据上测试的DSPP模型，与线性回归相比表现出优越的性能，在误差减少和预测精度提高方面取得了显著成果，同时通过特征排序提供了增强的可解释性。
-
新的脑机接口自适应方法消除了反向传播以提高效率
研究人员开发了一种新颖的测试时自适应（TTA）方法，称为无反向传播变换（BFT），专为轻量级脑电图（EEG）脑机接口（BCI）设计。该方法通过在自适应过程中避免反向传播的需求，解决了受试者间差异和计算限制等挑战。BFT利用样本级变换和学习排序模块来聚合预测，增强了鲁棒性并抑制了不确定性。在运动想象分类和驾驶员困倦回归任务上的实验表明，BFT在资源受限设备上的有效性、效率和实际部署潜力。
-
贝叶斯推断方法创建精确材料相图
研究人员开发了一种使用贝叶斯推断来构建材料温度-浓度相图的新方法。该方法结合了分子动力学、熔点模拟和声子计算的数据，以确定相自由能及其不确定性。该算法已成功应用于 Ge-Si 和 K-Na 等二元体系，并且还可以建议最有效的后续模拟以减少相图中的不确定性。
-
新方法在边缘GPU上加速贝叶斯推理，速度提升高达5倍
研究人员开发了一种新的面向硬件的方法，以加速嵌入式GPU上的贝叶斯推理，解决了计算成本问题，该成本通常会阻碍其在资源受限的边缘设备上的部署。该方法通过重构内存布局和采用稀疏数组表示来优化张量收缩，这是变分消息传递算法中的一个关键瓶颈。该优化已应用于隐马尔可夫模型的算法，在NVIDIA Jetson Orin AGX上实现了高达5倍的速度提升，典型增益为2-2.5倍，同时保持了数值精度。
-
新的Transport Quasi-Monte Carlo方法增强了高维积分评估
研究人员开发了一种名为Transport Quasi-Monte Carlo (T-QMC)的新方法，以提高高维积分评估的准确性。该技术解决了传统Quasi-Monte Carlo方法通常仅限于简单分布的局限性。T-QMC利用受归一化流启发的传输映射，将均匀分布转换为目标分布，从而使QMC在更复杂的场景中具有优越的收敛速度。该方法在贝叶斯推断任务中显示出有效性。
-
新的贝叶斯深度集成方法增强了预测回归
研究人员开发了一种新的贝叶斯深度集成方法，用于预测回归，该方法增强了可解释性并保持了强大的预测性能。该方法将贝叶斯推理与深度集成相结合，以提供校准的不确定性估计，使其适用于独立预测或集成到更大的学习系统中。主要特点包括低维集成表示、使用线性回归进行可解释权重的一阶贝叶斯聚合，以及神经网络的独立训练以提高鲁棒性和不确定性校准。在标准回归基准上的实证结果显示了具有竞争力的性能和可靠的不确定性估计。
-
New Bayesian framework evaluates scenario compatibility in generative population synthesis
研究人员开发了一个新的贝叶斯框架，用于评估生成式人口合成模型中场景目标的兼容性。该框架利用了人口感知条件变分自编码器来学习合理的人口结构，并使用有效样本量（ESS）来量化场景兼容性。该方法揭示了场景目标的影响取决于其与模型学习到的联合结构的对齐程度，当目标超出模型先验支持范围时，会识别出潜在的结构性故障模式。这种方法为评估交通规划和预测中的场景可行性和结构一致性提供了一个概率诊断工具。
-
新的几何因果模型利用对称性进行数据推断
研究人员开发了几何因果模型（GCMs），这是一个从非独立同分布的结构化数据中进行因果推断的新框架。该方法利用数据中潜在的对称性（通过群论形式化）来实现因果识别和估计。该框架结合了几何深度学习和贝叶斯推断，并已应用于构建一个满足DNA对称性的因果模型，为遗传变异效应提供了新的估计器。
-
贝叶斯推理模型解释语言中的比较错觉
一篇新的研究论文提出了一个贝叶斯推理模型来解释语言处理中比较错觉的等级强度。该模型综合了统计语言模型和人类行为数据，以预测各种合理的解释有多大可能被错误地解读为错觉句子。这种方法解释了错觉强度的精细分级以及先前无法解释的与句子主语相关的效应，支持了句子理解的噪声信道理论。
-
新的贝叶斯方法增强了多任务微调中的帕累托前沿估计
研究人员引入了变分模型合并（VMM），一种新颖的贝叶斯方法，旨在改进多任务微调中帕累托前沿的估计。该方法提供了一个理论框架，其中现有的模型合并技术被视为后验合并的特例。VMM证明，与简单的高斯模型相比，采用更灵活的非高斯后验可以带来更优的帕累托前沿估计，这一发现通过在视觉和语言 Transformer 上的实证结果得到了验证。