uncertainty estimation
PulseAugur coverage of uncertainty estimation — every cluster mentioning uncertainty estimation across labs, papers, and developer communities, ranked by signal.
-
综述论文定义了医疗保健领域人工智能的医学世界模型
一篇新发表在arXiv上的综述论文概述了医疗保健领域“医学世界模型”的概念和挑战。这些模型旨在通过表示和模拟不断变化的患者状态以及临床干预随时间推移的影响，来推动人工智能超越静态预测。虽然早期证据表明在轨迹预测和干预比较方面具有技术可行性，但该领域面临着包括回顾性数据、特定任务应用和不完整的纵向干预数据在内的重大限制。临床转化将需要精确的干预表示、因果基础、鲁棒的不确定性估计和前瞻性验证。
-
新研究探讨大型语言模型在不同语言和任务中的不确定性估计 · 跟踪 4 个来源
研究人员正在探索提高大型语言模型 (LLM) 在各种语言和任务中的不确定性估计的方法。一项研究发现，即使问题是低资源语言，提示 LLM 用英语进行推理也能显著提高不确定性估计性能。另一篇论文提出了一个框架，将 LLM 的不确定性分解为输入歧义、知识差距和解码随机性，从而为审计可靠性提供更细致的理解。此外，一种新方法使用知识蒸馏来创建高效的、单通道的 LLM 进行不确定性估计，其性能与计算密集型方法相当。
-
新方法改进了LLM代码生成的不确定性估计
研究人员开发了一种新的方法来估计大型语言模型生成的代码的不确定性，解决了静默错误代码带来的风险。该方法在一篇新论文中有所阐述，它认识到代码具有独特的属性，如词法脆弱性、意图-代码差距和可执行性，这些属性与自然语言不同。通过引入三个特定的不确定性轴——词法、算法和功能——该方法与现有的源自自然语言的技术相比，显著提高了不确定性估计的准确性。
-
研究论文区分了用于人工智能不确定性的交叉验证与深度集成
一篇题为“折叠中的迷失”的新研究论文强调了人工智能研究中关于医学图像分割不确定性估计的一个普遍误解。研究表明，使用K折交叉验证（CV）来形成集成模型，通常被错误地标记为深度集成（DE），这可能导致对不确定性的不准确解读。研究发现，使用相同训练数据但不同随机种子的DE更适合故障检测等可靠性任务，而CV集成模型更适合建模模糊性。