Bayesian Posterior Confidence Narrowing
PulseAugur coverage of Bayesian Posterior Confidence Narrowing — every cluster mentioning Bayesian Posterior Confidence Narrowing across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的风险量化方法增强了AI代理在不确定性下的安全性
研究人员开发了新的方法，使代理能够在不确定环境中量化和管理风险，尤其是在学习阶段。一种方法RATTL（Risk-Adversarial Total-Reward Learning）通过使用贝叶斯后验来定义一个Wasserstein模糊集，将谨慎与认知不确定性联系起来。这使得代理能够随着对环境理解的提高，动态地调整其行为，从鲁棒的最坏情况规划转向风险中性最大化。一种相关的方法Wasserstein熵值风险，提供了一种连贯的风险度量，它考…
-
新的AI安全框架优先考虑诚实而非说服
一篇新的研究论文提出了一个AI安全框架，通过训练预测器诚实而非说服。论文中详细介绍的科学家AI（SAI）预测器旨在通过“认识论上情境化”的自然语言陈述来近似贝叶斯后验。这种方法旨在区分事实声明和沟通行为，防止AI采纳目标或充当代理。研究人员认为，通过使协同欺骗付出高昂代价，这种方法可以同时确保安全性和准确性，即使预测器是更大代理系统的一部分。
-
新的AI推理方法解决了高维方差和后验坍塌问题
研究人员推出了一种新颖的基于粒子的变分推理方法——熵正则化最优输运下降法（Entropic Transport Descent, ETD），该方法利用熵正则化最优输运来改进对难解分布的近似。与先前可能在高维情况下遭受方差坍塌的方法不同，ETD的全局协调机制能够保留多模态结构，并在各种实验中与SVGD等现有技术相媲美或表现更优。同时，对变分深度高斯过程（Variational Deep Gaussian Processes, VDGPs…