Bayes' theorem
PulseAugur coverage of Bayes' theorem — every cluster mentioning Bayes' theorem across labs, papers, and developer communities, ranked by signal.
11 天有情绪数据
-
RecPFN 将上下文学习引入推荐系统
研究人员推出 RecPFN,这是一种用于顺序推荐系统中上下文学习的新型网络。该模型在合成数据上进行预训练,使其能够以最少的数据进行贝叶斯风格的推理。然后,一个轻量级的仅解码器 Transformer 在单次传递中生成下一项预测,而无需更新权重。RecPFN 在八个基准测试中展示了最先进的零样本性能,在低计算和低数据场景中优于监督方法,并为可泛化和数据高效的推荐器提供了一种实用的方法。
-
调查论文详述公平感知网络嵌入方法
本调查论文全面概述了公平感知网络嵌入方法,旨在减轻图结构数据表示中的偏差。它根据底层嵌入技术(例如,谱嵌入、随机游走、图神经网络、贝叶斯)、公平干预策略(预处理、中处理、后处理)和公平目标标准对现有方法进行了分类。论文还比较了群体公平与个体公平的方法,并讨论了开发可信赖网络表示学习的未来研究方向。
-
BayesPrompt 通过贝叶斯推断提供人类可读的 LLM 提示词
研究人员开发了 BayesPrompt,这是一种用于重构大型语言模型(LLM)提示词的新方法,旨在提高效率和人类可读性。与生成难以理解的“伪提示词”的现有方法不同,BayesPrompt 将提示词优化重新构建为贝叶斯后验推断任务。该方法可以生成不仅能有效引发 LLM 所需行为,而且人类也能理解的提示词,与当前最先进的替代方法相比有了显著改进。
-
CUBICS框架通过面向情境的风险估算提升ML组件的安全性
引入了一个名为CUBICS的新框架,以应对确保安全关键应用中机器学习组件(MLC)安全性的挑战。传统方法通常将故障建模为简单的伯努利过程,这未能考虑到MLC性能的依赖于情境的性质。CUBICS通过将操作域划分为特定情境并按组件估算性能,提供了一种模块化方法。它利用主观逻辑更新每个组件在其相关情境内的概率保证,从而无需整体系统模型即可实现更准确、面向情境的风险评估。
-
LLM辅助的贝叶斯代理加速机械世界模型发现
研究人员开发了一种模型发现代理(MDA),它使用大型语言模型(LLM)来辅助贝叶斯实验设计,从而高效地发现机械世界模型。MDA将LLM提议器与贝叶斯机制相结合,包括用于后验的序贯蒙特卡洛、用于难解似然的基于仿真的推理以及用于实验设计的价值信息。这种方法允许MDA在干预最少的情况下识别潜在的机械世界模型,即使真实模型不在初始假设类别之外。该系统在物理学、化学和生物学领域的基准测试中展示了在数据高效模型学习和可靠干预预测方面的最先进性能。
-
LLM驱动的代理设计实验以高效发现机制世界模型
研究人员开发了模型发现代理(MDA),这是一个LLM辅助系统,旨在通过贝叶斯实验设计高效发现机制世界模型。MDA将用于提出模型结构的语言大模型与顺序蒙特卡洛和基于仿真的推理等贝叶斯方法相结合,从有限的干预中学习因果模型。该系统旨在处理真实模型超出当前假设类别的情况,标记不充分并用新模型扩展假设空间。MDA在物理、化学和生物学基准测试中,在数据高效模型学习和预测方面展现了最先进的性能。
-
新框架统一了机器学习模型的不确定性评估
研究人员引入了一个新的框架,用于理解和评估机器学习模型中的预测不确定性。这种新方法将不确定性定义为逐点后验风险,将贝叶斯不确定性与估计器特定的偏差相结合。这一理论基础使得创建了一个基准,该基准使用半合成数据集直接计算出神谕的认知不确定性和偶然不确定性,从而绕过了代理任务的局限性。实证结果表明,强大的预测性能并不一定与可靠的不确定性解纠缠相关,并且该基准揭示了不同方法之间的显著差异,突显了它们对数据和建模选择的敏感性。
-
新的贝叶斯模型C-ICPE解决了连续空间中的纯探索问题
研究人员开发了C-ICPE,一种用于连续决策空间中贝叶斯固定置信度纯探索的新型模型。这种理论指导的方法对顺序架构进行元训练,以联合学习探索、停止和推荐策略。与现有的频率学派和特定模型方法不同,C-ICPE可以在推理时无需参数更新即可识别ε-最优推荐,使其适用于连续推荐空间。
-
新的PGBB方法增强了AI统计报告的隐私性
研究人员开发了一种名为私有生成式贝叶斯自举法(Private Generative Bayesian Bootstrap, PGBB)的新方法,用于在报告来自AI系统的统计答案和不确定性时保护个人隐私。PGBB使用贝叶斯无似然框架和一种阻塞策略,将个人分组并分配单一权重,从而加强了差分隐私。该方法在训练过程中使用校准噪声来学习从观测权重到后验样本的私有映射,后续的抽样无需额外的隐私预算。PGBB在模拟和应用于美国人口普查数据时,展示了…
-
新的PGBB方法增强了AI统计报告的隐私性
研究人员开发了一种名为私有生成式贝叶斯自举法(PGBB)的新方法,用于在报告AI系统的统计信息和不确定性时保护个人隐私。PGBB采用分组策略,将个人分组并为每个组分配单一权重,从而隐藏个人贡献。该方法通过在训练过程中添加校准噪声来加强差分隐私,允许后续的后验抽样而不产生额外的隐私成本。该方法在模拟和应用中已证明具有具有竞争力的私有不确定性量化能力,优于其他私有贝叶斯方法。
-
MetaKoopman: 用于鲁棒动力学建模的贝叶斯元学习
研究人员推出MetaKoopman,一个新颖的贝叶斯元学习框架,旨在利用线性潜在表示来建模非线性动力学。该方法学习Koopman算子上的矩阵正态-逆Wishart先验,从而实现闭式贝叶斯更新和考虑认知不确定性与随机不确定性的后验预测分布。在严酷冬季条件下和模拟控制任务中对自动驾驶卡车和拖车系统的评估表明,与现有方法相比,MetaKoopman在预测准确性、不确定性校准和对分布偏移的鲁棒性方面表现更优。
-
新论文介绍用于科学推断的模拟基经验贝叶斯
两篇新论文介绍了模拟基经验贝叶斯(SBEB),这是一种在似然仅可通过模拟器获得的条件下,对相关潜在变量进行同步推断的方法。第一篇论文《模拟基经验贝叶斯》通过使用观测数据、模拟器样本和摊销推断网络,详细介绍了SBEB在没有显式密度的情况下计算EB估计值的方法。第二篇论文《机器学习中的贝叶斯和频率派模拟基推断简介》概述了基于机器学习的SBI的贝叶斯和频率派框架,并重点介绍了它们在参数估计、经验贝叶斯和展开任务中的应用。
-
新框架通过正式裸片筛选增强人工智能芯片的可靠性
研究人员开发了一个新的半导体裸片筛选框架,以确保人工智能片上系统的可靠性。该方法通过将已知良好裸片(KGD)筛选正式化为约束推理问题,过渡到已知良好可靠裸片(KGRD)筛选。该工作引入了一个贝叶斯概率风险模型,用于从组装前数据预测组装后故障的可能性;一个安全门控决策架构,用于可证明的故障概率保证;以及基于贝叶斯最优决策理论的感知不确定性的处置边界。蒙特卡洛模拟验证了这些理论特性,证实了在不损害可靠性约束的情况下模型的一致性改进。
-
新的概率残差学习增强推荐系统
研究人员推出了一种新颖的因果贝叶斯推荐模型——概率残差学习(PRL),旨在增强现有的深度学习推荐系统。PRL通过关注真实值与基础预测之间的残差,来解决当前模型的复杂性和黑箱性质。该方法包括概率性地对用户进行分组,对领域级混淆因素进行建模,并使用do-calculus聚合特定群组的预测。实验表明,PRL可以作为即插即用组件集成,以提高性能并识别有意义的用户群组。
-
新的因果老虎机方法利用结构化关系改进决策
研究人员开发了新的因果老虎机方法,该方法利用变量之间的结构化关系来改进决策。所提出的技术,即定向信息采样(IDS)和汤普森采样(Thompson Sampling)的因果变体,旨在处理某些有影响力的变量无法直接操纵的情况。这些方法利用贝叶斯公式和已知的因果图,通过跨干预共享信息来更新奖励估计,在实验中表现优于现有的因果和非因果基线。
-
AI QA代理使用贝叶斯先验更有效地预测和查找缺陷
设计了一个AI QA代理,通过引入贝叶斯先验来改进缺陷检测,超越了对静态检查清单的统一关注。该方法记录过去的违规行为,并利用历史频率在检查前预测特定工具类别可能出现的问题。系统还将检查和修复过程分开以保持QA的客观性,并将持续存在的问题升级给人工审查。
-
新型PiVoT跟踪器提供实时多目标检测与跟踪
研究人员开发了PiVoT,一种用于在具有挑战性的雷达应用中进行实时多目标检测与跟踪的新型变分推理方法。该方法解决了现有贝叶斯跟踪器在物体众多且环境杂乱情况下的局限性。PiVoT将检测和跟踪整合到单一流程中,高效处理目标状态、存在概率和数据关联。它在可扩展性、杂波鲁棒性和实时性能方面表现出显著改进,在无需训练的情况下达到了与深度学习基准相当的结果。
-
新的因果基础模型解决了连续处理设置问题
研究人员开发了一种新颖的因果基础模型,该模型专门为连续处理设置而设计,这是一个因果推断的复杂领域,干预变量可以取一系列值。该模型是同类模型中的第一个,无需额外训练即可跨各种未见任务的因果效应预测进行元学习。通过生成丰富的因果训练语料库并采用Transformer架构,该模型可以从观察数据中重建个体处理-响应曲线,并取得最先进的性能。
-
新研究详细介绍了贝叶斯和乘法权重更新的精确信息核算
一篇新研究论文介绍了一种用于贝叶斯和乘法权重更新的精确信息核算恒等式。该恒等式揭示了任何此类更新的遗憾直接关系到不确定性的即时支付以及学习者当前权重与比较器之间信息距离的减少。累积支付定义了已实现序列的“内在时间”,提供了累积遗憾的两种精确自适应分解。
-
AI幻觉缓解研究与新的“HalluSquatting”安全威胁发生冲突
研究人员正在开发新的方法来对抗AI幻觉,这是一个语言模型生成事实错误信息的重要问题。一种方法G-Frame,采用受博弈论和贝叶斯原理启发的多元代理框架来训练一个名为OmniChem的专业模型,该模型显示幻觉显著减少。另一种策略HalMit,采用黑盒监视器框架来检测幻觉,而无需访问模型内部。与此同时,一种名为“HalluSquatting”的关键安全漏洞已经出现,攻击者利用AI对不存在的软件包的幻觉,诱骗AI代理下载并运行恶意代码,对各…