uncertainty quantification
PulseAugur coverage of uncertainty quantification — every cluster mentioning uncertainty quantification across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
监督式集成提升大型语言模型幻觉检测能力
研究人员调查了监督式集成方法在检测大型语言模型（LLMs）幻觉方面的有效性。他们的研究涵盖了四个大型语言模型、九个数据集和三种生成模式，发现这些集成方法始终优于单独的检测方法。这些集成方法表现出鲁棒性，即使在迁移到标记数据有限的不同领域时也能保持显著优势。
-
ASU教授称LLM Agent面临“模拟到现实”鸿沟，重蹈强化学习覆辙
亚利桑那州立大学助理教授魏华认为，当前大型语言模型（LLM）Agent在实际应用中面临的挑战，与传统强化学习（RL）中遇到的“模拟到现实”（sim-to-real）鸿沟相似。他强调了语言泛化困难以及从模拟环境转向复杂物理世界时决策失败等问题。魏提出将机器人学中的“域随机化”（domain randomization）等技术应用于LLM Agent，并通过在提示（prompts）和动作空间（action spaces）中引入扰动，证明即…
-
新研究探索不确定性量化和轻量级模型在语义分割中的应用
研究人员正在探索提高语义分割模型可靠性和鲁棒性的方法，尤其是在安全关键型应用中。一篇论文研究了不确定性量化（UQ）技术与SAM2和DPT等基础模型的集成，评估了准确性、校准和计算成本之间的权衡。另一项研究考察了CutMix数据增强策略对分割模型的影响，发现它在不显著影响准确性的情况下提高了可靠性和校准。第三篇论文介绍了一种名为SiConMo的轻量级框架，通过在瓶颈阶段进行上下文建模来平衡准确性和效率，展示了强大的准确性-效率权衡。
-
AI框架通过可靠的分子性质预测增强药物发现能力
研究人员开发了一个新的共形预测框架，旨在提高AI在药物发现中的可靠性，尤其是在处理标签偏移时。该方法通过用边际标签概率比加权共形分数来生成统计上严格的预测区间，即使在分子性质分布发生变化时也能进行稳健的不确定性量化。该方法旨在增强对关键分子性质（如溶解度、效力和毒性）的AI驱动预测的信任度，从而支持药物开发流程中更明智的决策，并符合监管机构对透明度的要求。
-
新框架增强了随机场神经网络重构能力
研究人员引入了一个新的局部 Sinkhorn 散度框架，用于训练随机神经网络 (SNN) 来重构多维随机场。该框架利用去偏的 Sinkhorn 散度创建了一个可微分且高效的目标函数。该方法提供了理论泛化误差估计，并为精确局部最优传输提供了一个可扩展的替代方案，在科学机器学习中的不确定性量化方面平衡了几何保真度、统计效率和计算可扩展性。
-
新的CRUISE框架通过VLM引导的不确定性增强自动驾驶传感器融合
研究人员开发了CRUISE，一个用于自动驾驶的新框架，通过结合由视觉语言模型（VLM）引导的不确定性量化来增强传感器融合。该方法旨在提高传感器数据的可靠性，尤其是在能见度差或恶劣天气等挑战性条件下。CRUISE利用VLM的上下文推理和先验知识生成详细的像素级不确定性估计，并动态适应模型跨模态依赖关系，以实现更有效的传感器集成。
-
结构化神经混沌框架增强不确定性量化
研究人员推出了一种新颖的代理建模框架——结构化神经混沌（sNC），该框架专为不确定性量化和全局敏感性分析而设计。该方法结合了多项式混沌展开的可解释性与神经网络的强大功能，以近似复杂系统。sNC展开自适应地识别功能ANOVA子空间内的主要模式，从而能够有效地提取统计和敏感性量。
-
新调查详细介绍了面向可信深度学习的不确定性量化
一篇新发布的arXiv调查论文详细介绍了深度学习中不确定性量化的方法，重点关注与安全关键应用中可信AI相关的技术。该论文将方法分为贝叶斯神经网络、蒙特卡洛Dropout、深度集成和单通道方法。它还回顾了用于总结不确定性的度量，并讨论了在大型语言模型中的应用，强调了开放的研究方向。
-
人工智能不确定性量化：分类、验证和可信度
arXiv上的一篇新论文“物理学和人工智能中的不确定性：分类、量化和验证”，作者是Ramon Winterhalder等人，为物理学应用中的机器学习不确定性量化提供了结构化概述。它引入了一个统一的不确定性分类法，在频率学和贝叶斯框架内区分预测不确定性和推理不确定性。该论文还详细介绍了覆盖率、校准和适当评分规则等验证工具，并用回归和分类示例说明了它们的用法。同时，Karthik Amirapu在dev.to上发表的一篇题为“人工智能中的…
-
贝叶斯概率论为力学不确定性量化提供统一框架
一篇新论文提出了一种统一的贝叶斯概率论框架，用于力学中的不确定性量化（UQ）。该方法同时处理正向问题（追踪输入不确定性如何影响结果）和反向问题（从观测中推断参数）。该框架整合了模型选择和实验设计等子问题，并特别关注生物力学领域的应用，因为生物体本身存在变异性和数据噪声。
-
新不确定性量化框架源于主观风险分解
研究人员通过提出一种新观点，即不确定性度量并非基础性的，而是源于更高级别的建模决策，从而引入了不确定性量化（UQ）的新视角。该框架展示了如何通过分解主观风险，并使用严格的 Proper Loss 函数来获得认知不确定性和偶然不确定性。该方法在共同的理论基础上统一了各种 UQ 度量，并根据特定的建模场景和损失函数提出了实用的 UQ 方法。此外，该研究将此观点扩展到学习理论，分析了超额风险、近似误差和估计误差的主观风险类似物，并将它们与 …
-
新研究强调了大型语言模型和视觉语言模型中思维链的低效和过度自信
研究人员发现，大型语言模型（LLMs）的思维链（CoT）提示存在低效问题，其中有效但冗余的推理步骤会增加计算成本，但不会提高准确性。新开发的诊断基准 RIV-GSM8K 和一个名为 CAID 的指标，用于识别和惩罚这些“信息泡沫”步骤。一种事后压缩策略 PACE，利用 CAID，在保持准确性的同时，在各种基准测试中显著减少了 token（31-53%）。另外，值得注意的是，视觉语言模型（VLMs）中的 CoT 提示可能导致过度自信，这…
-
新的深度学习模型在无人工标注的情况下对天文瞬变体进行分类
研究人员开发了一种新颖的深度学习框架，用于将天文瞬变体分类为真实或虚假，而无需人工标注数据。该方法利用注入的模拟瞬变体和受污染的调查数据集，采用不对称协同教学来处理不同的标签噪声水平。该框架还结合了混合不确定性量化策略，结合MC Dropout和深度集成，为其分类提供校准的置信度。该方法旨在实现时域调查中可扩展且一致的真实-虚假分类，即使在标签有噪声或有限的情况下也是如此。
-
新的冯·米塞斯集成方法改进了汽车雷达的不确定性量化
研究人员开发了一种新的汽车雷达系统不确定性量化方法，使用冯·米塞斯（VM）集成，与证据深度学习（EDL）相比，该方法提供了更好的可解释性和几何一致性。VM集成提供了角度预测参数（mu，kappa），可以直接进行概率集成到检测和跟踪流程中。虽然EDL显示出更平滑的不确定性变化，但VM方法在名义条件下表现更好，并且对严重扰动更敏感，突显了几何一致性与统计通用性之间的权衡。
-
新框架为等变推理提供统计保证
一篇新的研究论文介绍了一个等变表示学习框架，旨在提高回归、条件概率估计和不确定性量化中的泛化能力和样本效率。该框架基于算子和群表示理论，近似条件期望算子的谱分解。在合成和真实机器人数据集上的实证评估表明，其在回归方面能与现有等变基线相媲美或超越，同时提供校准良好的不确定性估计。
-
新研究推动扩散模型在图像编辑、数据增强和遗忘方面的进展
研究人员正在探索扩散模型的先进技术，重点是改进图像编辑、数据增强和遗忘能力。新方法旨在通过改进ODE求解器和矢量场平滑来提高图像编辑的稳定性和保真度。对于数据增强，正在开发不确定性指导策略，通过关注信息区域来改进语义分割模型。此外，扩散模型遗忘方面的进展正在取得，研究调查了选择性遗忘和使用稀疏自编码器将概念检测与干预分离，旨在获得更清晰的结果并更好地保留模型质量。
-
新方法推进机器学习中的不确定性量化 · 跟踪5个来源
研究人员介绍了评估机器学习模型中不确定性量化（UQ）的新方法。一种称为“决策对齐”的方法旨在确保UQ指标与下游决策效用有意义地相关，从而揭示了当前通用指标的缺陷。另一项进展侧重于多模态回归任务的高效UQ，将变分贝叶斯推理扩展到分位数回归和分类恢复等模型。此外，还提出了一种名为Ribbon的可扩展近似方法，该方法通过近似贝叶斯自举方法而不要求重复模型重新拟合，从而提供鲁棒的不确定性量化。
-
新的QUEST框架在机器学习中提供了改进的不确定性量化
一种名为QUEST（Quantifying Uncertainty via highest dEnSiTy regions）的新框架已被提出用于机器学习中的不确定性量化。该方法通过分布支撑集中最可能子集的体积来表征不确定性，为基于适当评分规则的方法提供了一种替代方案。QUEST度量已被证明满足不确定性量化的关键公理，并在选择性预测基准测试中与方差和微分熵等标准度量相比表现良好。
-
综述论文强调符号回归中不确定性量化的必要性
一篇新的综述论文解决了符号回归（SR）方法中不确定性量化（UQ）的关键差距。该论文旨在介绍UQ概念并回顾现有文献，将当前研究分为频率学派、贝叶斯学派和模型选择方法。尽管UQ对于模型可靠性和决策至关重要，但在SR中仍是一个未被充分探索的领域，凸显了进一步研究的必要性。
-
新方法通过处理歧义来改进 LLM 错误预测
研究人员开发了一种新方法，通过区分输入歧义和不确定性量化 (UQ) 信号来改进大型语言模型 (LLM) 中的错误预测。该研究在问答任务上进行，发现当问题有多个合理答案时，UQ 指标在预测错误方面的效果不佳。通过引入歧义标签，新方法显著提高了各种 LLM 系列和数据集的错误预测准确性。