uncertainty estimation
PulseAugur coverage of uncertainty estimation — every cluster mentioning uncertainty estimation across labs, papers, and developer communities, ranked by signal.
-
AI临床预测研究关注不确定性和正确性评估
两篇新研究论文探讨了用于临床应用的人工智能模型中不确定性估计的关键问题。第一篇论文介绍了一种用于临床文本分类的大型语言模型（LLM）的新型贝叶斯方法，将LLM视为模拟器，以生成关于诊断的后验分布。该方法旨在提供比传统黑盒方法更可靠的不确定性量化，在区分临床基准上的正确预测与错误方面表现优越。第二篇论文侧重于用于临床预测的视觉语言模型，强调了仔细选择用于评估不确定性估计的“正确性标准”的重要性。它提出了一个基于人类一致性和对下游性能的保…
-
新框架将医学图像分割重构为临床医生-模型决策问题
本文提出了一种新的少样本医学图像分割（FSMIS）框架，通过将少样本医学图像分割视为一个顺序的临床医生-模型决策问题来解决当前方法的局限性。所提出的方法包含一个交互预算，允许系统在不同阶段请求反馈或将问题提交给专家评审。其目标是通过专注于降低临床相关风险来优化稀缺专家注意力的分配，而不是仅仅依赖交互来解决领域偏移问题。
-
综述论文定义了医疗保健领域人工智能的医学世界模型
一篇新发表在arXiv上的综述论文概述了医疗保健领域“医学世界模型”的概念和挑战。这些模型旨在通过表示和模拟不断变化的患者状态以及临床干预随时间推移的影响，来推动人工智能超越静态预测。虽然早期证据表明在轨迹预测和干预比较方面具有技术可行性，但该领域面临着包括回顾性数据、特定任务应用和不完整的纵向干预数据在内的重大限制。临床转化将需要精确的干预表示、因果基础、鲁棒的不确定性估计和前瞻性验证。
-
新研究探讨大型语言模型在不同语言和任务中的不确定性估计 · 跟踪 4 个来源
研究人员正在探索提高大型语言模型 (LLM) 在各种语言和任务中的不确定性估计的方法。一项研究发现，即使问题是低资源语言，提示 LLM 用英语进行推理也能显著提高不确定性估计性能。另一篇论文提出了一个框架，将 LLM 的不确定性分解为输入歧义、知识差距和解码随机性，从而为审计可靠性提供更细致的理解。此外，一种新方法使用知识蒸馏来创建高效的、单通道的 LLM 进行不确定性估计，其性能与计算密集型方法相当。
-
新方法改进了LLM代码生成的不确定性估计
研究人员开发了一种新的方法来估计大型语言模型生成的代码的不确定性，解决了静默错误代码带来的风险。该方法在一篇新论文中有所阐述，它认识到代码具有独特的属性，如词法脆弱性、意图-代码差距和可执行性，这些属性与自然语言不同。通过引入三个特定的不确定性轴——词法、算法和功能——该方法与现有的源自自然语言的技术相比，显著提高了不确定性估计的准确性。
-
研究论文区分了用于人工智能不确定性的交叉验证与深度集成
一篇题为“折叠中的迷失”的新研究论文强调了人工智能研究中关于医学图像分割不确定性估计的一个普遍误解。研究表明，使用K折交叉验证（CV）来形成集成模型，通常被错误地标记为深度集成（DE），这可能导致对不确定性的不准确解读。研究发现，使用相同训练数据但不同随机种子的DE更适合故障检测等可靠性任务，而CV集成模型更适合建模模糊性。