importance sampling
PulseAugur coverage of importance sampling — every cluster mentioning importance sampling across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新协议支持对私有数据进行可验证的随机抽样
研究人员开发了一种名为NoCherry的协议,该协议无需依赖可信的单方即可对私有数据进行可验证的随机抽样。该方法使用去中心化的随机信标来选择样本,确保审计人员可以验证随机性,并且数据持有者无法挑选数据来隐藏缺陷。该协议适用于各种审计场景,包括私有AI基准测试和数据集质量声明,允许无偏见的样本选择,同时保护完整数据集的机密性。
-
新的后验分层重要性采样方法增强了不确定性量化
研究人员推出了一种名为后验分层重要性采样(PIS)的新颖方法,旨在解决传统重要性采样技术固有的高方差和不可靠的不确定性量化问题。PIS将复杂的加权问题重新构建为更简单的、一维的建模任务,特别是条件均值回归和重要性比率密度估计。该方法提供了一系列估计器,包括标准重要性采样,并通过模拟和交叉验证应用证明了在准确性和不确定性量化方面的改进。
-
新方法通过学习到的方差缩减来增强MCMC采样
研究人员开发了一种新方法来改进马尔可夫链蒙特卡洛(MCMC)方法,通过使用学习到的变换来减少估计中的方差。该方法涉及训练一个双射函数(如归一化流),将目标分布映射到潜在空间中的参考密度。通过在潜在空间中求解泊松方程,可以推导出显式的控制变量,然后将其变换回原始空间。该技术也适用于重要性采样,并在合成后验和真实世界后验的实验中显示出与现有最先进采样器相比有希望的结果。
-
新的贝叶斯推断方法改进了复杂模型的基于仿真的校准
研究人员开发了用于具有难解似然但可处理前向模拟的模型的新型模拟贝叶斯推断(SBI)方法。第一项贡献引入了一种顺序程序,使用渐进局部化、数据驱动的条件密度近似作为提议分布,最后通过重要性采样步骤校正后验分布。第二项贡献是局部模拟校准(SBC),它通过拟合和重用伪观测值之间的局部代理模型和比率估计器,以低计算成本探测比后验更广泛邻域的校准。这些方法在三个案例研究中进行了评估,包括一个流行病学应用。
-
新型神经粒子滤波器提高序列推理精度
研究人员开发了神经最优粒子滤波器(NOPFs),这是一种将机器学习集成到粒子滤波器中用于序列推理的新方法。这些NOPFs学习最优提议分布的摊销近似,该近似可以直接替换到标准的粒子滤波器更新中。该方法旨在提高涉及噪声和不完整观测的任务的样本效率和准确性,尤其是在高维或复杂场景中,而不会改变基本的滤波目标。
-
新框架以统计严谨性改进了人工智能驱动的图像分析
研究人员开发了一种用于大规模图像集合中多目标估计的新框架,解决了计算机视觉模型引入的偏差。该方法结合了模型预测和有限的人工标注,以提供统计上严谨的科学测量。在各种数据集上的评估表明,在不同的标注预算和目标数量下,诸如重要性采样和带控制变量的均匀采样等不同的采样策略表现最佳。
-
新的Kernel-WIS估计器改进了上下文老虎机中的离策略评估
研究人员推出了一种用于上下文老虎机中离策略评估的新估计器Kernel-WIS。该方法利用离线数据,并且设计为渐近一致的。Kernel-WIS旨在通过结合标准加权重要性采样和标准重要性采样的特性,尤其是在行为策略错误指定的情况下,优于现有基线。
-
新的UP目标通过平衡探索与稳定性来增强LLM推理能力
研究人员推出了一种名为“无界正向非对称优化”(Unbounded Positive Asymmetric Optimization, UP)的新型目标函数,旨在改进大型语言模型(LLMs)的强化学习(RL)。UP通过允许正向优势的梯度无限制,从而增强探索,同时保持对负向优势的梯度裁剪,以防止训练不稳定,从而解决了当前RL框架中固有的探索-稳定性困境。这种即插即用的目标函数已在各种RL算法、模型架构和训练模式中展现出提高推理准确性的能力。
-
新的选择性重要性采样方法改进了 LLM 对齐
研究人员推出了一种名为选择性重要性采样 (SIS) 的新型即插即用方法,旨在改进大型语言模型 (LLM) 在强化学习后训练期间的对齐。该方法通过将接受的令牌视为同策略来解决离策略训练数据的问题,从而简化了重要性校正过程。SIS 在理论上被证明可以减小梯度估计器差距,并且计算开销极小,使其能够与各种 RL 后训练算法兼容。实验表明,SIS 在不同 LLM 架构和基准测试中始终能改进目标并增强鲁棒性。
-
论文回顾了蒙特卡洛重要性采样中的最优性
本文全面回顾了重要性采样技术中的最优性,这是蒙特卡洛采样方法性能的关键组成部分。它探讨了设计自适应提议密度的各种框架,包括用于模型选择的边际似然近似、多个提议密度的使用以及一系列温度后验。该调查还深入研究了在近似贝叶斯计算和强化学习等嘈杂场景中的应用,并提供了理论和经验比较。
-
新研究推进机器学习的策略外评估技术
两篇新研究论文探讨了机器学习中策略外评估(OPE)的高级技术,这是一个使用现有数据评估新策略性能的关键过程。第一篇论文引入了“Quotient DAGs”,用于处理奖励仅取决于无序项目集但生成过程是有序的情况,从而减少了干扰方差。第二篇论文“CANDOR”提出了一种双重稳健的OPE估计器,通过将注释纳入奖励模型组件,有效地利用了不完美的专家标注反事实样本,尤其适用于医疗保健应用。
-
新的DR-IS方法提高了机器学习在对抗性标签损坏方面的鲁棒性
研究人员开发了一种名为不一致正则化重要性采样(DR-IS)的新型子采样方法,以提高机器学习在对抗性标签损坏方面的鲁棒性。该方法利用独立代理集成中损失排序的不一致性来识别和降低损坏数据点的权重。DR-IS在样本集中性和污染界限方面提供了理论保证,并在目标攻击下,实证上优于基于幅度的EL2N等方法。