Bayesian experimental design
PulseAugur coverage of Bayesian experimental design — every cluster mentioning Bayesian experimental design across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
New score matching method simplifies Bayesian experimental design
研究人员通过将复杂的期望信息增益（EIG）计算与策略学习分离，开发了一种新颖的贝叶斯实验设计（BED）方法。该方法利用分数匹配来隔离EIG的棘手性，将乘法成本转化为加法成本。这大大降低了策略训练的计算负担，从而能够更有效地优化架构搜索和超参数调整等任务，最终提高策略性能。
-
新的贝叶斯实验设计框架简化了策略优化
研究人员推出了一种新颖的贝叶斯实验设计框架 Action-BED，它将目标从不确定性降低重新表述为下游动作的预期未来损失。这种方法允许使用随机梯度进行优化的单次难解目标，从而简化了设计策略的学习过程。Action-BED 还为各种下游任务和损失函数提供了更轻松的定制，无需显式估计后验或边际似然。
-
FairBED框架旨在为机器学习收集更公平的数据
研究人员推出了一种名为FairBED的新型框架，旨在通过修改数据采集过程来提高机器学习的公平性。FairBED不局限于从现有有偏数据中学习公平模型，而是致力于收集本质上更公平的数据集。该方法通过评估数据集在敏感属性方面的信息量来量化数据集的公平性。这种方法构建了贝叶斯实验设计目标，在关于目标变量的信息增益与关于敏感属性的信息增益最小化之间取得平衡，从而在训练模型中实现更好的公平性-准确性权衡。
-
上下文学习可能支持机器学习中的内在好奇心
一项新的研究论文探讨了大型序列模型的上下文学习（ICL）能力是否能够支持机器学习中的内在好奇心。该研究调查了是否可以仅使用ICL模型的预测误差和上下文操纵来训练一个探索策略以最大化学习进度，从而消除了计算成本高昂的梯度下降更新的需要。虽然研究证明这在马尔可夫决策过程中通常是不可能的，因为奖励存在偏差或ICL的实现存在挑战，但它在主动学习和贝叶斯实验设计等非时间性设置中展示了一个积极的结果。跨各种环境的实验证实，这种由ICL驱动的框架成…
-
探索上下文学习在人工智能内在好奇心方面的应用
研究人员探讨了序列模型的上下文学习（ICL）能力是否能够支持机器学习中的内在好奇心。虽然传统的自动数据选择方法或“内在好奇心”由于需要梯度下降更新而计算成本高昂，但这项工作研究了使用ICL作为一种无需更新的替代方案。该研究证明，在一般的马尔可夫决策过程中，这种方法不是无偏的，但在非时间性设置（如主动学习和贝叶斯实验设计）中取得了积极成果，在这些设置中，ICL产生的奖励可以界定并收敛到真实的学习进展。在各种环境中的实验证实，这种由ICL…
-
新方法改进了用于机器学习归因的 Shapley 值近似
研究人员开发了用于近似 Shapley 值的新方法，Shapley 值是机器学习中归因的关键指标。两篇论文介绍了新算法 Adalina 和 ShaplEIG，它们提高了估算这些值（特别是对于大量“参与者”或特征）的效率和准确性。另一篇论文 OddSHAP 为配对采样技术提供了理论依据，并引入了一种利用这一见解实现最先进准确度的新估计器。
-
新的贝叶斯实验设计方法应对动态约束和以目标为导向的优化
研究人员开发了新的贝叶斯实验设计（BED）框架，以解决动态和以目标为导向的应用中的局限性。一种方法，“通过在线规划实现的约束贝叶斯实验设计”，结合了离线策略预训练和在线规划，以在预算和物理限制等动态约束下优化设计。另一种方法，“以目标为导向的贝叶斯最优实验设计（GoBOED）”，直接针对特定的决策目标优化实验设计，理论上表明与传统的增益最大化相比，这种关注可以带来更鲁棒和更宽的最优设计窗口。
-
新框架通过务实的“好奇心”统一学习与优化
研究人员推出了一种名为“务实的‘好奇心’”（PraC）的新型框架，旨在统一复杂场景下的学习与优化。PraC 解决了必须同时提高性能和减少不确定性的决策情况，这是工程和科学工作流程中的常见挑战。该框架通过平衡对底层符号的信息增益与预期的基于任务的遗憾，来评估潜在行动，从而在学习和优化方法的选择上提供了灵活性。
-
新方法增强了贝叶斯因果发现对复杂、异构数据的处理能力
研究人员开发了一种新的贝叶斯因果发现方法，该方法可以将专家知识纳入异构领域。该方法通过允许因果贝叶斯网络的混合，而不是假设单一因果图，扩展了先前的工作。所提出的变分混合结构学习方法成功地推断出这些混合，并在有专家反馈的情况下提高了结构学习性能，这在合成数据和乳腺癌数据库上得到了证明。