Deep Ensembles
PulseAugur coverage of Deep Ensembles — every cluster mentioning Deep Ensembles across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
深度神经网络为具有不确定性量化的量子参数估计提供新方法
一篇新研究论文介绍了一种用于量子参数估计的神经网络类型——深度集成。该方法不仅提供准确的参数估计,还能量化不确定性,这是标准机器学习方法通常会丢失的一个特性。该论文证明,同时优化准确性和校准不确定性不会损害估计的准确性。此外,与传统的贝叶斯方法相比,该方法可以检测实验数据中的漂移,并提供更快的推理时间,使其适用于实验环境中的实时应用。
-
新框架评估节点分类中的认知不确定性降低
研究人员开发了一个新的统计框架来研究节点分类中的认知不确定性,重点关注随着数据生成过程信息的可用性增加,不确定性如何降低。现有的图证据深度学习(EDL)方法被发现通过超参数调节不确定性,而不是直接估计数据不确定性,在信息增长下未能通过一致性测试。作为替代,提出了图自举集成方法,该方法通过重采样和随机训练捕获数据和过程不确定性,展示了超越标准深度集成方法的认知不确定性降低。
-
AI不确定性量化评估,助力值得信赖的胶质瘤诊断
研究人员开发了一种面向任务的评估策略,用于评估用于胶质瘤诊断的AI系统中的不确定性量化(UQ)。该系统使用MRI数据。该研究聚焦于一个多任务深度学习框架,该框架可执行肿瘤分割并预测IDH突变状态、1p/19q联合缺失状态和肿瘤分级。研究评估了蒙特卡洛Dropout(MCD)、深度集成(DE)和蒙特卡洛深度集成(MCDE)等方法在不同诊断任务中检测错误、保持校准和提供可解释不确定性估计的能力。研究结果表明,虽然不确定性估计有助于错误检测…
-
新的VBLL方法增强了演化图上的在线节点分类
研究人员开发了一种名为变分贝叶斯最后一层(VBLL)的新方法,用于演化图上的在线节点分类。该方法解决了归纳泛化和校准不确定性的挑战,这对于动态图环境和安全敏感应用至关重要。VBLL联合训练图神经网络编码器和近似的最后一层后验,并在测试时使用在线拉普拉斯更新进行流式后验更新。在五个基准测试上的实验表明,VBLL在准确性和负对数似然方面表现优越,在Cora和ogbn-arxiv等数据集上显著优于其他方法。
-
新的PI-CP方法增强了神经算子的不确定性量化
研究人员开发了一种名为物理信息共形预测(PI-CP)的新方法,为用于逼近偏微分方程(PDE)解的神经算子提供可靠的不确定性估计。该框架将PDE残差嵌入预测区间,确保无分布覆盖保证,并根据物理条件满足程度调整区间紧密度。研究还发现了傅里叶神经算子在处理具有狄利克雷边界条件的PDE时存在根本性的近似障碍,可以通过使用坐标通道来缓解,从而显著降低误差。
-
AI不确定性指标在肺结节存在歧义方面失效
一篇新的arXiv论文研究了深度学习中随机不确定性估计在3D肺结节分割中的有效性。研究发现,基于熵的标准不确定性度量虽然与边界噪声相关,但不能充分捕捉关于结节存在的临床显著歧义。研究人员证明,一个简单的、在现有分割特征上训练的监督歧义头,其性能显著优于基于熵的方法,甚至能媲美更复杂的歧义建模技术。这表明,在安全关键的医疗应用中,当前的随机不确定性方法可能不是临床歧义的可靠代理。
-
新的贝叶斯解释方法提高了电能质量扰动分类器的可靠性
本文介绍了一种新颖的后验贝叶斯解释方法,用于深度学习分类器在电能质量扰动识别中的应用。该方法采用拉普拉斯近似来有效地推导出近似参数后验,从而能够生成扰动定位图的分布。这种方法提供了具有可靠性度量的解释,能够锐化特定事件的定位,并指示在噪声或域偏移下的解释分散性。
-
新AI框架通过不确定性和可解释性增强皮肤病变分类
研究人员开发了一个新的皮肤病变分类框架,该框架结合了深度集成学习、不确定性量化和可解释性技术。该方法使用多种模型,包括视觉 Transformer 和 CNN,以提高准确性并识别不可靠的预测。该系统在 HAM10000 数据集上表现出色,准确率达到 96%,ROC-AUC 达到 99%,尤其是在基于不确定性过滤预测时。
-
新研究探索深度学习中的不确定性量化在各种应用中的潜力
三篇新研究论文探讨了深度学习模型中不确定性量化的先进技术。第一篇论文介绍了直觉模糊深度随机神经网络(IF-dRVFL和IF-edRVFL),以提高分类任务中对噪声数据和异常值的鲁棒性。第二篇论文对基因组学应用中的不同不确定性量化方法进行了实证分析,包括深度集成、贝叶斯神经网络和蒙特卡洛-dropout,发现贝叶斯神经网络对于不平衡和分布外数据更可靠。第三篇论文提出了一种两步MV-DeepONet用于概率算子学习,增强了不确定性传播中跨…
-
新调查详细介绍了面向可信深度学习的不确定性量化
一篇新发布的arXiv调查论文详细介绍了深度学习中不确定性量化的方法,重点关注与安全关键应用中可信AI相关的技术。该论文将方法分为贝叶斯神经网络、蒙特卡洛Dropout、深度集成和单通道方法。它还回顾了用于总结不确定性的度量,并讨论了在大型语言模型中的应用,强调了开放的研究方向。
-
新方法利用代理模型增强神经集成搜索 · 跟踪到2个来源
研究人员开发了一种新的神经集成搜索(NES)方法,解决了优化单个模型架构及其集成组合的计算挑战。该方法利用两个独立的代理模型来估计预测准确性和多样性潜力,从而有效地指导搜索过程。这种双目标策略旨在识别单独强大且集体多样化的架构,在Fashion-MNIST、CIFAR-10和CIFAR-100等数据集上表现优于标准基线。
-
AI模型利用多模态数据预测甜椒产量
研究人员开发了一个新的多模态深度学习框架,用于预测单株植物可收获的甜椒数量。该系统结合了由DinoV3编码器处理的视觉数据和数值果实计数测量,并利用长短期记忆(LSTM)网络来捕捉时间模式。实验表明,与基线模型相比,均方根误差(RMSE)显著降低,并且该框架还使用深度集成(Deep Ensembles)和高斯负对数似然(Gaussian Negative Log-Likelihood)提供了校准的不确定性估计。
-
AI模型利用多模态数据预测甜椒产量
研究人员开发了一个新的多模态深度学习框架来预测甜椒的产量。该框架结合了通过DINOv3编码器处理的视觉数据和数字化的果实计数。利用长短期记忆(LSTM)网络捕捉时间模式,与基线方法相比,该模型显著降低了均方根误差(RMSE)。该系统还集成了深度集成和高斯负对数似然,以提供校准的不确定性估计,从而辅助农业决策。
-
新研究论文比较AI碰撞模拟不确定性方法
一篇新研究论文比较了两种不确定性量化方法——蒙特卡洛Dropout和深度集成——在AI驱动的碰撞模拟代理模型上的应用。该研究利用NVIDIA PhysicsNeMo和一个开源保险杠梁基准,引入了具体Dropout作为一种端到端学习Dropout率的方法。研究结果表明,在准确性和校准性之间存在权衡,这挑战了深度集成方法在代理模型不确定性量化方面总是更优的观点。
-
New method disentangles model and human uncertainty in facial age estimation
研究人员开发了一种方法,用于区分面部年龄估计任务中的模型不确定性和人类数据不确定性。通过在具有不同数据量的 APPA-REAL 数据集上训练贝叶斯神经网络,他们观察到认知不确定性(模型不确定性)随着数据的增加而减少,而随机不确定性(固有的数据噪声)保持稳定。这项工作展示了量化面部年龄估计中不同不确定性来源的能力。
-
AI模型可以学会表达不确定性,超越置信度分数
本文介绍了AI模型表达不确定性的概念,超越了简单的置信度分数。它提出了三种实现机制:蒙特卡洛Dropout、深度集成和分布外检测。目标是让模型拥有一个“声音”来表明它们何时不确定,从而实现一个可以触发人工干预的决策门,而不是依赖可能具有误导性的高置信度分数。
-
新的贝叶斯深度集成方法增强了预测回归
研究人员开发了一种新的贝叶斯深度集成方法,用于预测回归,该方法增强了可解释性并保持了强大的预测性能。该方法将贝叶斯推理与深度集成相结合,以提供校准的不确定性估计,使其适用于独立预测或集成到更大的学习系统中。主要特点包括低维集成表示、使用线性回归进行可解释权重的一阶贝叶斯聚合,以及神经网络的独立训练以提高鲁棒性和不确定性校准。在标准回归基准上的实证结果显示了具有竞争力的性能和可靠的不确定性估计。
-
新的CLEAR方法通过平衡风险来改进AI不确定性量化
研究人员推出了一种新颖的校准方法CLEAR,旨在通过解决回归任务中的偶然不确定性和认知不确定性来改进预测区间覆盖率。该方法利用两个独立的参数(γ1和γ2)来平衡这些不确定性组成部分。CLEAR具有通用性,可以与各种估计器集成,例如用于偶然不确定性的分位数回归,以及用于认知不确定性的深度集成或来自可预测性-可计算性-稳定性(PCS)框架的方法。在17个不同的数据集上,CLEAR在保持标称覆盖率的同时,在区间宽度方面比单独的基线校准平均提…
-
新的深度学习模型在无人工标注的情况下对天文瞬变体进行分类
研究人员开发了一种新颖的深度学习框架,用于将天文瞬变体分类为真实或虚假,而无需人工标注数据。该方法利用注入的模拟瞬变体和受污染的调查数据集,采用不对称协同教学来处理不同的标签噪声水平。该框架还结合了混合不确定性量化策略,结合MC Dropout和深度集成,为其分类提供校准的置信度。该方法旨在实现时域调查中可扩展且一致的真实-虚假分类,即使在标签有噪声或有限的情况下也是如此。
-
深度集成在多模态分类中优于后期融合
一篇新的研究论文提出使用单一模态神经网络的深度集成来进行多模态分类,挑战了传统的后期融合方法。研究表明,这些集成方法即使在处理模态不平衡方面,也始终优于最先进的后期融合方法。研究人员还开发了一种启发式方法,用于在集成中选择每种模态的最佳模型数量,避免了详尽的计算搜索。