uncertainty quantification
PulseAugur coverage of uncertainty quantification — every cluster mentioning uncertainty quantification across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新方法揭示MLLMs中的认知不确定性
研究人员开发了一种名为因果不变掩码（Causal-Invariant Masking, CIM）的新方法，以更好地量化多模态大型语言模型（MLLMs）中的认知不确定性。该方法旨在通过区分数据歧义引起的不确定性与模型局限性引起的不确定性来解决MLLMs产生幻觉的问题。提出的语义散度（Semantic Divergence）指标及其更快的代理指标预期嵌入漂移（Expected Embedding Drift, EED）在各种基准测试中均表…
-
新框架使用希尔数量化社会科学中LLM的不确定性
一篇新的研究论文提出了一个框架，用于评估大型语言模型（LLM）在应用于社会科学研究时产生的不确定性。该论文认为，明确评估不确定性对于科学探究至关重要，这一原则在社会科学和机器学习领域早已确立。所提出的框架利用希尔数（Hill numbers），这是一类多样性度量方法，可以在共同的尺度上统一现有的不确定性量化指标，并适应各种语义相似性和输出分布敏感性的概念。该方法通过在社会科学中的四个实证应用进行了展示。
-
综述探讨生物信号分析中机器学习的不确定性量化
一篇近期的综述论文探讨了不确定性量化（UQ）在用于生物信号分析的机器学习模型中的应用。研究强调了UQ在提高预测的可解释性和鲁棒性方面的潜力，特别是在脑电图（EEG）、心电图（ECG）和肌电图（EMG）等信号分析中，这些信号通常存在噪声，并且在医疗环境中需要高度的人类可解释性。该论文识别了现有的各种UQ方法及其局限性，并提出了未来研究的建议，强调需要研究在临床环境中人类和系统如何与感知不确定性的模型进行交互。
-
深度强化学习框架应对配电网风险
研究人员开发了一个深度强化学习框架，用于识别配电网运行中的风险和异常，特别是在不确定性条件下。所提出的方法集成了分布强化学习和贝叶斯深度强化学习来量化不确定性，区分固有风险（aleatoric不确定性）和分布外行为（epistemic不确定性）。该方法旨在通过提供更好的风险表征和异常检测来提高配电网运行的可靠性。
-
AdaptNTK框架提升了AI在分子动力学模拟中的应用
研究人员开发了AdaptNTK，一种用于神经网路势能不确定性量化和主动学习的新型框架。这种单一模型方法使用经验神经切线核（NTK）特征空间中的正则化马氏距离来估计不确定性，并且可以在不重新训练的情况下递归更新。AdaptNTK在分子动力学模拟中表现出强大的性能，与力误差实现了高相关性，并在rMD17和Transition-1X等数据集的主动学习实验中，尤其是在过渡态构型方面，优于集成方法。
-
保形预测与DRO统一用于不确定性量化
研究人员开发了一个统一的概率框架，将保形预测（CP）和分布鲁棒优化（DRO）联系起来用于不确定性量化。这种新视角将这两种方法都视为从有限校准数据中推导出数据依赖型分位数估计器的方式。虽然CP调整分位数水平，DRO移动分位数数值，但它们的构建方式不同，导致行为各异，尤其是在分数分布的尾部。
-
监督式集成提升大型语言模型幻觉检测能力
研究人员调查了监督式集成方法在检测大型语言模型（LLMs）幻觉方面的有效性。他们的研究涵盖了四个大型语言模型、九个数据集和三种生成模式，发现这些集成方法始终优于单独的检测方法。这些集成方法表现出鲁棒性，即使在迁移到标记数据有限的不同领域时也能保持显著优势。
-
新方法整合深度学习中的偶然性和认知不确定性
研究人员开发了一种用于深度学习模型不确定性量化（UQ）的新方法，特别适用于高维输出空间。该方法联合建模偶然性不确定性（解释数据噪声）和认知不确定性（反映模型置信度）。通过用低秩加对角协方差结构近似联合不确定性，该方法在没有完整协方差矩阵的计算开销的情况下捕获了重要的输出相关性。这种统一的二阶分布支持稳健的下游分析，并在图像修复、着色、光流和深度估计等任务中展示了卓越的 UQ 性能。
-
ASU教授称LLM Agent面临“模拟到现实”鸿沟，重蹈强化学习覆辙
亚利桑那州立大学助理教授魏华认为，当前大型语言模型（LLM）Agent在实际应用中面临的挑战，与传统强化学习（RL）中遇到的“模拟到现实”（sim-to-real）鸿沟相似。他强调了语言泛化困难以及从模拟环境转向复杂物理世界时决策失败等问题。魏提出将机器人学中的“域随机化”（domain randomization）等技术应用于LLM Agent，并通过在提示（prompts）和动作空间（action spaces）中引入扰动，证明即…
-
新研究探索不确定性量化和轻量级模型在语义分割中的应用
研究人员正在探索提高语义分割模型可靠性和鲁棒性的方法，尤其是在安全关键型应用中。一篇论文研究了不确定性量化（UQ）技术与SAM2和DPT等基础模型的集成，评估了准确性、校准和计算成本之间的权衡。另一项研究考察了CutMix数据增强策略对分割模型的影响，发现它在不显著影响准确性的情况下提高了可靠性和校准。第三篇论文介绍了一种名为SiConMo的轻量级框架，通过在瓶颈阶段进行上下文建模来平衡准确性和效率，展示了强大的准确性-效率权衡。
-
AI框架通过可靠的分子性质预测增强药物发现能力
研究人员开发了一个新的共形预测框架，旨在提高AI在药物发现中的可靠性，尤其是在处理标签偏移时。该方法通过用边际标签概率比加权共形分数来生成统计上严格的预测区间，即使在分子性质分布发生变化时也能进行稳健的不确定性量化。该方法旨在增强对关键分子性质（如溶解度、效力和毒性）的AI驱动预测的信任度，从而支持药物开发流程中更明智的决策，并符合监管机构对透明度的要求。
-
新框架增强了随机场神经网络重构能力
研究人员引入了一个新的局部 Sinkhorn 散度框架，用于训练随机神经网络 (SNN) 来重构多维随机场。该框架利用去偏的 Sinkhorn 散度创建了一个可微分且高效的目标函数。该方法提供了理论泛化误差估计，并为精确局部最优传输提供了一个可扩展的替代方案，在科学机器学习中的不确定性量化方面平衡了几何保真度、统计效率和计算可扩展性。
-
新的CRUISE框架通过VLM引导的不确定性增强自动驾驶传感器融合
研究人员开发了CRUISE，一个用于自动驾驶的新框架，通过结合由视觉语言模型（VLM）引导的不确定性量化来增强传感器融合。该方法旨在提高传感器数据的可靠性，尤其是在能见度差或恶劣天气等挑战性条件下。CRUISE利用VLM的上下文推理和先验知识生成详细的像素级不确定性估计，并动态适应模型跨模态依赖关系，以实现更有效的传感器集成。
-
结构化神经混沌框架增强不确定性量化
研究人员推出了一种新颖的代理建模框架——结构化神经混沌（sNC），该框架专为不确定性量化和全局敏感性分析而设计。该方法结合了多项式混沌展开的可解释性与神经网络的强大功能，以近似复杂系统。sNC展开自适应地识别功能ANOVA子空间内的主要模式，从而能够有效地提取统计和敏感性量。
-
新调查详细介绍了面向可信深度学习的不确定性量化
一篇新发布的arXiv调查论文详细介绍了深度学习中不确定性量化的方法，重点关注与安全关键应用中可信AI相关的技术。该论文将方法分为贝叶斯神经网络、蒙特卡洛Dropout、深度集成和单通道方法。它还回顾了用于总结不确定性的度量，并讨论了在大型语言模型中的应用，强调了开放的研究方向。
-
人工智能不确定性量化：分类、验证和可信度
arXiv上的一篇新论文“物理学和人工智能中的不确定性：分类、量化和验证”，作者是Ramon Winterhalder等人，为物理学应用中的机器学习不确定性量化提供了结构化概述。它引入了一个统一的不确定性分类法，在频率学和贝叶斯框架内区分预测不确定性和推理不确定性。该论文还详细介绍了覆盖率、校准和适当评分规则等验证工具，并用回归和分类示例说明了它们的用法。同时，Karthik Amirapu在dev.to上发表的一篇题为“人工智能中的…
-
贝叶斯概率论为力学不确定性量化提供统一框架
一篇新论文提出了一种统一的贝叶斯概率论框架，用于力学中的不确定性量化（UQ）。该方法同时处理正向问题（追踪输入不确定性如何影响结果）和反向问题（从观测中推断参数）。该框架整合了模型选择和实验设计等子问题，并特别关注生物力学领域的应用，因为生物体本身存在变异性和数据噪声。
-
新不确定性量化框架源于主观风险分解
研究人员通过提出一种新观点，即不确定性度量并非基础性的，而是源于更高级别的建模决策，从而引入了不确定性量化（UQ）的新视角。该框架展示了如何通过分解主观风险，并使用严格的 Proper Loss 函数来获得认知不确定性和偶然不确定性。该方法在共同的理论基础上统一了各种 UQ 度量，并根据特定的建模场景和损失函数提出了实用的 UQ 方法。此外，该研究将此观点扩展到学习理论，分析了超额风险、近似误差和估计误差的主观风险类似物，并将它们与 …
-
新研究强调了大型语言模型和视觉语言模型中思维链的低效和过度自信
研究人员发现，大型语言模型（LLMs）的思维链（CoT）提示存在低效问题，其中有效但冗余的推理步骤会增加计算成本，但不会提高准确性。新开发的诊断基准 RIV-GSM8K 和一个名为 CAID 的指标，用于识别和惩罚这些“信息泡沫”步骤。一种事后压缩策略 PACE，利用 CAID，在保持准确性的同时，在各种基准测试中显著减少了 token（31-53%）。另外，值得注意的是，视觉语言模型（VLMs）中的 CoT 提示可能导致过度自信，这…
-
新的深度学习模型在无人工标注的情况下对天文瞬变体进行分类
研究人员开发了一种新颖的深度学习框架，用于将天文瞬变体分类为真实或虚假，而无需人工标注数据。该方法利用注入的模拟瞬变体和受污染的调查数据集，采用不对称协同教学来处理不同的标签噪声水平。该框架还结合了混合不确定性量化策略，结合MC Dropout和深度集成，为其分类提供校准的置信度。该方法旨在实现时域调查中可扩展且一致的真实-虚假分类，即使在标签有噪声或有限的情况下也是如此。