Bayesian inference
PulseAugur coverage of Bayesian inference — every cluster mentioning Bayesian inference across labs, papers, and developer communities, ranked by signal.
9 天有情绪数据
-
Yudkowsky 探讨 Robin Hanson 的贝叶斯更新概念
Eliezer Yudkowsky 在 LessWrong 上发表的文章讨论了“贝叶斯主义者不会预测性更新”的概念，并将该概念的普及归功于 Robin Hanson。文章深入探讨了这个想法在贝叶斯推理框架内的含义。
-
新方法因果后验估计改进了贝叶斯推理
研究人员推出了一种名为因果后验估计（CPE）的新技术，用于复杂模拟器模型中的贝叶斯推理。CPE 利用流匹配来近似后验分布，关键是将图模型的条件依赖性直接整合到神经网络架构中。这种方法通过硬编码这些依赖性而不是从数据中学习它们，在各种实验中证明了比现有方法在后验推理方面具有更高的准确性。
-
新的Spectra方法可将AI推理模型适配到更新的先验信息
研究人员开发了Spectra，一种用于在测试时将基于仿真的推理（SBI）模型适配到新的先验分布的新颖方法。该技术在最近的一篇arXiv论文中进行了详细介绍，它利用精确的分数传输恒等式来修改冻结的扩散模型，而无需额外的模拟或重新训练。Spectra已在六个SBI基准测试中证明了准确的适配能力，即使在先验信息发生显著变化的情况下，采样成本也很低。这一进展使得预训练的SBI模型能够有效地整合更新的先验信息，增强了其在科学分析中的灵活性。
-
深度神经网络为具有不确定性量化的量子参数估计提供新方法
一篇新研究论文介绍了一种用于量子参数估计的神经网络类型——深度集成。该方法不仅提供准确的参数估计，还能量化不确定性，这是标准机器学习方法通常会丢失的一个特性。该论文证明，同时优化准确性和校准不确定性不会损害估计的准确性。此外，与传统的贝叶斯方法相比，该方法可以检测实验数据中的漂移，并提供更快的推理时间，使其适用于实验环境中的实时应用。
-
新的贝叶斯推断方法改进了复杂模型的基于仿真的校准
研究人员开发了用于具有难解似然但可处理前向模拟的模型的新型模拟贝叶斯推断（SBI）方法。第一项贡献引入了一种顺序程序，使用渐进局部化、数据驱动的条件密度近似作为提议分布，最后通过重要性采样步骤校正后验分布。第二项贡献是局部模拟校准（SBC），它通过拟合和重用伪观测值之间的局部代理模型和比率估计器，以低计算成本探测比后验更广泛邻域的校准。这些方法在三个案例研究中进行了评估，包括一个流行病学应用。
-
新方法通过神经网络推进摊销贝叶斯推理 · 跟踪 2 个来源
两篇新提交至 arXiv 的研究论文介绍了用于摊销贝叶斯推理的新颖方法。第一篇论文提出使用辅助监督来缓解贝叶斯推理神经网络优化中的表示差距，从而实现更快的收敛和更好的性能，尤其是在数据有限的情况下。第二篇论文提出了一种用于任意结构多层模型上摊销贝叶斯推理的通用方法，该方法从有向无环图表示自动推导出因子分解和神经网络架构。这种方法保留了所有条件独立性假设，并与黄金标准采样器非常匹配，同时将推理简化为快速前向传播。
-
新方法实现可扩展的神经网络贝叶斯推断
研究人员开发了压缩主动子空间（CAS）方法，这是一种使大型模型贝叶斯推断更具可扩展性的新颖方法。传统的主动子空间方法需要大量的模型梯度内存，限制了其在小型模型上的应用。CAS通过首先使用等距嵌入将模型参数映射到压缩空间，然后在该缩减空间内构建主动子空间来解决此问题。这种方法大大降低了内存需求，使得在保持预测性能和不确定性估计的同时，能够对大型神经网络进行贝叶斯推断。
-
新的贝叶斯框架增强了 MRS 中的代谢物定量
研究人员开发了一个新的贝叶斯推断框架，利用 Sylvester 标准化流 (SNFs) 来改进磁共振波谱 (MRS) 中的代谢物定量。这种物理信息方法结合了 MRS 信号形成的先验知识，以确保现实的分布表示。该方法在模拟数据上进行了验证，展示了准确的代谢物定量和良好校准的不确定性，为改善神经系统疾病和肿瘤检测的诊断能力提供了潜力。
-
新论文将图灵机与解析函数的奇点联系起来
William Troiani 的一篇新论文探讨了图灵机的结构与实解析函数奇点之间一种新颖的对应关系。这种联系是通过将线性逻辑的 Ehrhard-Regnier 导数与 Watanabe 的奇异学习理论联系起来建立的。该研究将离散的图灵机代码嵌入到平滑的噪声代码参数空间中，其中一个势函数将图灵机识别为临界点。该框架进一步将局部几何与图灵机和贝叶斯推理的内部结构联系起来，表明贝叶斯后验可以区分不同的算法实现。
-
新的贝叶斯推断方法使用热力学循环来测量非高斯性
研究人员引入了马尔可夫链蒙特卡洛（MCMC）循环的概念，将其与热力学循环过程在热机中的类比联系起来，用于分析贝叶斯推断问题。他们开发了自适应集成调度器来调整MCMC运行期间的外部参数，从而能够实际实现这些循环。一个关键的发现是，当且仅当模型是非高斯时，这些系统才能产生净功输出，这表明它们可能被用作贝叶斯推断中非高斯性的度量，并以超新星宇宙学的一个例子进行了证明。
-
arXiv新论文统一概率作为模型预测
arXiv上的一篇新论文提出了一个关于概率的统一视角，认为所有概率都是预测方法的输出。这种观点认为，即使是那些被认为是客观的概率，本质上也是模型依赖的。研究表明，当满足有限的校准标准时，可以预测给定策略的效用分布，并指导有限事件集的成功决策。该工作通过建立在预测方法、归纳论证和概率演算的基础上，连接了各种概率解释的直觉。
-
AI框架实现高性能混凝土高效部分逆向设计
研究人员开发了一种新颖的合作神经网络（CoNN）框架，以应对高性能混凝土（HPC）部分逆向设计的复杂挑战。这种由AI驱动的方法将一个插补模型与一个代理强度预测器相结合，能够在一次迭代中生成有效且性能一致的混凝土配合比。与自动编码器和高斯过程贝叶斯推理等现有模型相比，该方法显著提高了强度一致性，均方误差降低了高达60%。该应用展示了AI在混凝土科学中用于约束感知混合生成的有效且准确的方法。
-
新的活性推理方法指导自主侦察代理
研究人员开发了一种新颖的活性推理方法，用于规划自主侦察任务中智能体的路线。该方法旨在通过构建一个包含正面和负面传感器观测的证据图来维护一个通用的作战图。生成模型利用Dempster-Shafer理论和高斯传感器模型，采用贝叶斯方法更新概率并最小化变分自由能来指导代理移动。该方法平衡了对新区域的探索和对已识别目标的利用。
-
博弈论增强无人机群防御能力
研究人员探索了微分博弈论在增强无人机群防御策略中的应用。该方法将敌对无人机群建模为一个理性智能体，旨在寻找防御方和入侵方行动之间的纳什均衡。模拟表明，与基线单边优化策略相比，这种博弈论方法显著提高了成功拦截的概率，尤其是在入侵无人机群采用规避机动时。贝叶斯分析进一步支持了博弈论方法的优越性，为其在保护高价值资产方面的有效性分配了较高的后验概率。
-
新的HyperMC框架优化SGMCMC超参数
研究人员开发了HyperMC，一种用于优化随机梯度马尔可夫链蒙特卡洛（SGMCMC）方法中超参数的新颖框架。该方法利用多保真度调优策略，结合Hyperband风格的资源分配和核Stein差异（KSD）评估，以有效地探索超参数空间。在逻辑回归和贝叶斯神经网络等各种模型上的实验表明，与现有方法相比，HyperMC增强了后验近似和预测校准。
-
从概率论角度解释Hamiltonian Monte Carlo
本文深入探讨了Hamiltonian Monte Carlo (HMC)，一种为现代贝叶斯推断和PyMC等统计机器学习框架提供支持的复杂算法。HMC起源于物理学，是马尔可夫链蒙特卡洛 (MCMC) 的一个变体，已广泛应用于流行病学和野火建模等领域。本文旨在逆向工程HMC，解释其概率基础以及如何生成后验分布，超越了通常基于物理学的动机。
-
新的基于脉冲的贝叶斯控制框架集成了神经模型
研究人员开发了一个新颖的贝叶斯控制框架，该框架将基于脉冲的动力学与概率推理相结合，用于自适应控制。该框架利用受生物学启发的脉冲神经网络模型，结合贝叶斯推理原理，创建了一个类大脑的控制算法。在山地汽车停车问题上进行了测试，该控制器通过脉冲驱动的动力学展示了实时状态更新和目标导向的动作生成，表明其有潜力成为计算神经科学与概率控制理论之间的桥梁。
-
新的BTYD模型利用摊销变分推断加速客户分析
研究人员开发了一系列新的购买-直至死亡（BTYD）模型，这些模型超越了传统的泊松过程假设。这些新模型利用威布尔更新过程，并采用摊销变分推断方案进行高效参数估计。这种方法显著减少了计算时间，在8分钟内即可拟合包含500万零售客户的数据集，而当前最先进的方法估计需要3-4天，同时不牺牲预测性能或可解释性。该框架还便于纳入协变量，如在包含400万政治捐助者的数据集上所展示的那样。
-
新研究将MDP规划视为策略上的贝叶斯推断
研究人员提出了一种新颖的马尔可夫决策过程（MDP）规划方法，将其构建为策略上的贝叶斯推断问题。这种概念上的转变将策略本身视为一个潜在变量，而预期回报则作为非归一化后验密度。通过在包括Blackjack和Triangle Tireworld在内的各种网格世界上的实验，检验了该方法的有效性，并将其诱导的行为与熵正则化策略优化进行了比较。
-
新框架用于概率分布中的比例类比
研究人员引入了一个用于概率分布比例类比的新框架，以贝叶斯更新作为核心机制。该方法将类比定义为通过贝叶斯推理，基于观测数据对分布进行的变换。研究在指数分布族内探讨了这一概念，并提出使用高斯混合模型近似来扩展到任意分布。