Bayesian inference
PulseAugur coverage of Bayesian inference — every cluster mentioning Bayesian inference across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
新的Transport Quasi-Monte Carlo方法增强了高维积分评估
研究人员开发了一种名为Transport Quasi-Monte Carlo (T-QMC)的新方法，以提高高维积分评估的准确性。该技术解决了传统Quasi-Monte Carlo方法通常仅限于简单分布的局限性。T-QMC利用受归一化流启发的传输映射，将均匀分布转换为目标分布，从而使QMC在更复杂的场景中具有优越的收敛速度。该方法在贝叶斯推断任务中显示出有效性。
-
新的贝叶斯深度集成方法增强了预测回归
研究人员开发了一种新的贝叶斯深度集成方法，用于预测回归，该方法增强了可解释性并保持了强大的预测性能。该方法将贝叶斯推理与深度集成相结合，以提供校准的不确定性估计，使其适用于独立预测或集成到更大的学习系统中。主要特点包括低维集成表示、使用线性回归进行可解释权重的一阶贝叶斯聚合，以及神经网络的独立训练以提高鲁棒性和不确定性校准。在标准回归基准上的实证结果显示了具有竞争力的性能和可靠的不确定性估计。
-
New Bayesian framework evaluates scenario compatibility in generative population synthesis
研究人员开发了一个新的贝叶斯框架，用于评估生成式人口合成模型中场景目标的兼容性。该框架利用了人口感知条件变分自编码器来学习合理的人口结构，并使用有效样本量（ESS）来量化场景兼容性。该方法揭示了场景目标的影响取决于其与模型学习到的联合结构的对齐程度，当目标超出模型先验支持范围时，会识别出潜在的结构性故障模式。这种方法为评估交通规划和预测中的场景可行性和结构一致性提供了一个概率诊断工具。
-
新的几何因果模型利用对称性进行数据推断
研究人员开发了几何因果模型（GCMs），这是一个从非独立同分布的结构化数据中进行因果推断的新框架。该方法利用数据中潜在的对称性（通过群论形式化）来实现因果识别和估计。该框架结合了几何深度学习和贝叶斯推断，并已应用于构建一个满足DNA对称性的因果模型，为遗传变异效应提供了新的估计器。
-
新的贝叶斯方法增强了多任务微调中的帕累托前沿估计
研究人员引入了变分模型合并（VMM），一种新颖的贝叶斯方法，旨在改进多任务微调中帕累托前沿的估计。该方法提供了一个理论框架，其中现有的模型合并技术被视为后验合并的特例。VMM证明，与简单的高斯模型相比，采用更灵活的非高斯后验可以带来更优的帕累托前沿估计，这一发现通过在视觉和语言 Transformer 上的实证结果得到了验证。
-
新的提示方法改进了LLM对人类决策模拟
研究人员开发了一种名为“方程到行为提示”（Equation-to-Behavior Prompting）的新方法，用于指导大型语言模型（LLM）模拟多样化的人类决策行为，超越了简单的贝叶斯更新。该方法在说服博弈中进行了测试，结果表明，较大的模型可以通过提示来近似指定的认知模型。对于较小的模型，一种名为“方程到行为强化学习”（Equation-to-Behavior RL）的技术显著减少了信念误差，尤其是在分布外场景中。与仅在贝叶斯模型…
-
新论文提出贝叶斯审计用于AI评估档案
一篇新论文提出了一种贝叶斯推理框架，用于审计前沿AI评估的公共档案。研究强调了选择性报告和基准修订如何扭曲对AI进展的认知，并以LiveBench和Open LLM Leaderboard v2作为主要例子。提出的档案和裁决协议旨在重建评估历史，建立经过验证的时间界限，并使关于AI能力的未经证实的说法无效。
-
新的MCMC方法使用神经网络自适应地停止采样
研究人员开发了一个新框架，该框架使用神经网络分类器来自适应地确定何时停止马尔可夫链蒙特卡洛（MCMC）方法的采样。这种方法被置于生成流网络（GFlowNets）的框架内，通过训练分类器来识别高密度区域，从而缩短轨迹长度并提高采样效率。该方法通过详细平衡条件，在理论上将最优分类器与目标密度联系起来，并在实验中与传统的MCMC基线相比，在模式覆盖和混合方面显示出显著的改进。
-
New particle method slashes Bayesian inference costs
研究人员开发了 amortized mean-shift interacting particles，一种用于贝叶斯推理的新颖方法，可显著降低逆问题中积分评估的计算成本。与需要大量样本的传统蒙特卡洛方法不同，这种新方法使用学习到的映射在单次前向传递中生成加权节点，从而提高了效率。该方法在各种后验类型中都显示出改进的准确性和效率，包括像地下水模拟这样的复杂基于物理的模型，为现有的蒙特卡洛积分技术提供了帕累托改进。
-
机器学习代理学习高效的无线通信协议
研究人员开发了一种新颖的方法，利用机器学习代理在分布式无线系统中学习高效和公平的随机信道接入策略。通过采用具有贝叶斯推理的离策略双深度Q网络，代理可以自主学习在没有预训练或协调的情况下管理分时信道的接入。模拟表明，这种被称为KISS（Keeping It Simple and Slotted）的方法实现了接近理论的效率和公平性，并能适应各种网络条件。
-
新的UCD方法增强了三维分子图的生成
研究人员开发了一种名为不确定性校准扩散（UCD）的新方法，以改进三维分子图的生成。该技术解决了扩散模型中的认知不确定性问题，这种不确定性可能导致生成的分子结构不准确和化学无效。UCD校准扩散过程，以更好地考虑这种不确定性，从而提高了采样质量，并在标准基准测试中取得了新的最先进性能。
-
新的传感方法利用潜在对称性和神经网络
研究人员开发了一种新颖的传感方法，该方法利用散射体阵列中的潜在对称性。通过引入一个“入侵者”散射体，这些隐藏的对称性会被破坏，从而可以根据对称性破坏的程度来识别和定位入侵者。研究表明，虽然基于字典的方法可以奏效，但贝叶斯推理或人工神经网络的性能更优，尤其是在嘈杂的条件下。
-
兰姆齐的哲学为贝叶斯主义和波普尔主义观点提供了替代方案
本文探讨了剑桥数学家和哲学家弗兰克·兰姆齐关于科学定律和概率的哲学立场。兰姆齐在20世纪20年代提出的观点，为归纳法和普遍陈述地位的贝叶斯主义和波普尔主义方法提供了替代方案。他提出，普遍陈述不是具有真值的命题，而是‘可变假言’或判断规则，如果它们持续未能预测单一观测值，就会被放弃。
-
新的TabMGP方法增强了表格数据的贝叶斯不确定性量化
研究人员推出了一种新颖的表格数据贝叶斯推理方法TabMGP，该方法利用了TabPFN模型。该方法旨在通过用预测规则取代传统的先验和似然要求来提供可靠的不确定性量化。与现有的MGP构造和标准贝叶斯基线相比，TabMGP表现出了卓越的性能，实现了接近标称覆盖的信任区间。
-
新的贝叶斯知识蒸馏框架增强模型压缩
研究人员推出了一种新颖的多教师贝叶斯知识蒸馏（MT-BKD）框架，旨在改进模型压缩和不确定性量化。该方法通过利用贝叶斯推理来捕捉固有的不确定性，使学生模型能够从多个教师模型中学习。MT-BKD 包含一个教师信息先验，该先验整合了外部知识，并使用基于熵的加权机制来适应性地调整每个教师的影响力，从而提高泛化能力和鲁棒性。
-
新的贝叶斯PINN增强了ADAS的轮载估算
研究人员开发了DBPnet，一种新颖的贝叶斯物理信息神经网络，旨在改进高级驾驶辅助系统（ADAS）的轮载估算。该方法将阻尼器特性纳入物理感知嵌入模块，并利用悬架连杆级别的模型来捕捉非线性动力学。通过集成贝叶斯推理和物理信息损失函数，DBPnet旨在提高对测量噪声和不确定性的鲁棒性，在模拟和真实世界实验中表现优于基线方法。
-
新方法修正潜高斯模型的贝叶斯推断误差
研究人员开发了一种新方法来修正潜高斯模型的贝叶斯推断误差。提出的重要性采样方案提高了从积分拉普拉斯近似（ILA）得出的近似后验的准确性。这种修正至关重要，因为ILA有时会产生与真实后验显著不同的结果，从而影响后续分析。
-
贝叶斯风洞揭示用于推理的 Transformer 几何设计
研究人员开发了“贝叶斯风洞”来严格研究 Transformer 如何执行贝叶斯推理。这些受控环境能够以高精度验证小型 Transformer 模型中的贝叶斯后验，这是容量匹配的多层感知机 (MLP) 无法实现的。研究表明，Transformer 利用残差流作为信念基底，前馈网络用于后验更新，注意力机制用于内容可寻址路由，展示了贝叶斯推理的几何设计。
-
卡尔曼滤波器：AI 的贝叶斯方法在导航与直觉之间的权衡
卡尔曼滤波器是人工智能和机器人学中的一个核心概念，通过一个关于信任 GPS 导航还是个人直觉的问题进行了探讨。这种贝叶斯推理技术对于航空航天导航和控制系统至关重要。
-
新理论将LLM的上下文内学习建模为几何信念空间轨迹
研究人员提出了一个新框架来理解大型语言模型（LLMs）如何在给定上下文中进行学习。他们的工作表明，LLMs通过在低维几何空间（称为概念信念空间）上进行贝叶斯推理来更新其行为。通过分析LLMs在故事理解任务上的表现，该研究发现这些信念更新遵循结构化流形上的可预测轨迹，这反映在模型的外部行为和内部表示中。此外，对这些内部表示的干预可以对信念轨迹产生因果影响，支持了LLM信念动态的几何解释。