Grad-CAM++
PulseAugur coverage of Grad-CAM++ — every cluster mentioning Grad-CAM++ across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新的交叉验证方法提高了 AI 水果货架期预测的准确性
研究人员开发了一种新方法来评估从图像预测水果剩余货架期的 AI 模型的准确性。使用 Hass 牛油果成熟度数据集，他们发现样本级交叉验证（确保同一水果的图像不用于训练和测试）比观察级拆分提供了更现实的性能估计。这种方法显示出更高的错误率，样本不重叠的交叉验证产生的平均 RMSE 为 3.12 天，而观察级拆分的平均 RMSE 为 2.37 天。该研究还将 MobileNetV3-Small 等轻量级模型与 ResNet-18 等较重模…
-
新方法提高无线分层学习效率
研究人员开发了一种名为“注意力感知类平衡稀疏化”（ICS）的新方法，以解决无线分层学习中的通信瓶颈。该方法允许服务器使用基于Grad-CAM的分数对特征通道进行排序，客户端随后利用这些分数保留最重要的特征，而无需额外的处理。ICS旨在提高准确性，尤其是在非独立同分布的客户端数据下，并且已扩展到基于Transformer的模型。
-
发布新的牙科X光片分类深度学习基准
研究人员开发了一个新的深度学习基准，用于分类根尖片，解决了患者级数据划分和跨中心验证的问题。该基准应用于DentIRO数据集，使用了来自两个诊所的超过3200名患者的5300张图像。DenseNet121取得了最高的性能，宏观F1得分为0.9787，证明了在不同临床地点具有稳健的泛化能力。
-
研究揭示可解释人工智能评估方法不一致
一项新研究发布在arXiv上，调查了可解释人工智能（XAI）不同评估策略的一致性。研究人员比较了信任度和满意度等主观指标、任务表现等客观指标以及使用显著性图进行的数学评估。研究结果表明，这些评估体系可能导致不同的结论，数学指标仅与用户表现部分相关，有时会产生违反直觉的结果。该研究强调了比较这些不同方法以开发稳健的XAI评估框架的重要性。
-
新型轻量级AI模型AgroVisNet助力作物病害分类
研究人员开发了AgroVisNet，这是一种轻量级卷积神经网络，专为连接性和计算能力有限的设备的植物病害分类而设计。该模型与专家验证的BD-PlantDX基准数据集一起，专注于孟加拉国萝卜、马铃薯和葫芦科蔬菜的病害。与大型模型相比，AgroVisNet以更少的参数和运算量实现了高精度，使其适用于农民手中的设备部署。
-
新框架量化医学AI视频分析中的时间可解释性
研究人员开发了一个新的定量框架，用于评估用于超声心动图视频分割的深度学习模型的时间可解释性。该框架使用四个指标来评估时间一致性、显著性运动以及解剖和时间重叠。对不同模型架构（包括2D U-Net和ConvLSTM U-Net变体）的实验表明，虽然分割性能相似，但中间ConvLSTM解释显示出比最终预测更少的不稳定性和更多的运动。该研究强调了时间感知可解释性方法在更好地理解医学视频分析中不断演变表征的必要性。
-
新AI框架利用注意力和集成学习增强青光眼检测
研究人员开发了一种新颖的青光眼检测框架，通过结合注意力增强的深度特征提取和异构集成学习。该方法利用InceptionV3和卷积块注意力模块（CBAM）来精炼深度特征，提高模型对临床相关视网膜区域的关注度。为了增强分类鲁棒性并解决类别不平衡问题，该框架结合了集成学习策略（SLE和DLE）以及SMOTE+TL技术。在公共数据集上的实验表明，这种注意力增强的深度特征方法优于传统的深度特征和手工制作的特征，而Grad-CAM可视化提供了其预测…
-
AI模型在视网膜疾病分类和血管分割方面取得高精度
研究人员开发了一种新颖的双管齐下框架，用于分析视网膜眼底图像，结合了疾病分类和血管分割。该框架对八个ImageNet预训练的CNN进行了微调以进行分类，其中ResNet101的准确率最高，达到94.17%。对于分割，对各种U-Net变体进行了基准测试，其中使用ResNet101V2骨干的Attention U-Net表现出卓越的性能，显著提高了DRIVE数据集上的IoU分数。
-
新方法解决AI模型解释中的旋转引起的漂移问题
研究人员发现，用于审计AI模型决策的后验显著性图（如Grad-CAM）存在一个显著问题：当输入图像旋转时，即使模型预测保持不变，这些图也会出现“漂移”。这种不稳定性在缺乏规范方向的医学和航空影像领域尤其成问题。研究发现，通道权重出奇地稳定，而空间激活张量是漂移的根源，这种移动会被分类器的池化机制丢弃。一种新方法EquiGrad-CAM已被开发出来，它是一种无需训练的包装器，通过重新定向旋转视图的显著性图后对其进行平均，从而显著提高了旋…
-
新的 HiLRP 方法为各种 Vision Transformer 提供了统一的解释
研究人员开发了一种名为 HiLRP 的新归因方法，旨在为 Vision Transformer (ViT) 模型提供单一、可信的解释。现有方法在处理 ViT 的多样化架构时遇到困难，常常依赖于在不同变体中不成立的假设。HiLRP 将 ViT 操作分解为四种基本类型，使其能够生成适用于广泛 ViT 系列的保守有效归因图，这与之前可能产生不准确或夸大相关性得分的方法不同。
-
视觉基础模型在可解释的糖尿病视网膜病变分类方面展现出潜力
研究人员开发了一个使用视觉基础模型进行糖尿病视网膜病变（DR）分类的可解释框架。该研究评估了DINOv2、CLIP和Vision Transformer骨干网络，并采用了多种迁移学习策略，包括完全微调和LoRA。DINOv2-LoRA在内部表现强劲，而DINOv2和ViT的完全微调在外部分泛化方面表现出色。可解释性通过Grad-CAM和HiResCAM进行评估，将模型注意力图与专家标注的病灶进行比较。
-
新的LUX架构增强了可解释的内窥镜图像字幕生成
研究人员开发了LUX，一种新颖的图条件视觉-语言架构，用于可解释的内窥镜图像字幕生成。该系统通过构建一个以病变为中心的场景图来表示病变区域及其关系，从而解决了当前深度学习模型的局限性。通过将这些图嵌入集成到T5解码器中，LUX将生成的词语与特定的视觉证据对齐，增强了可解释性并减少了临床发现的幻觉。LUX在医学字幕生成基准测试中的表现优于现有模型。
-
知识蒸馏可改善数据稀疏环境下的卷积神经网络
研究人员研究了知识蒸馏（KD）技术，通过从大型教师模型迁移知识来训练更小、更高效的卷积神经网络（CNN）。虽然KD通常应用于最终输出层，但本研究探讨了将其应用于中间层的好处，特别是在每个类别数据有限的细粒度数据集上。研究结果表明，虽然最后一层蒸馏对于通用数据集通常已足够，但在数据稀疏的情况下，中间层监督能显著提高准确性，证明了开发紧凑且数据高效模型的一种关键方法。
-
新的HiRA-CAM方法增强了CNN的可解释性
研究人员推出了一种名为HiRA-CAM的新方法，用于提高卷积神经网络（CNN）的可解释性。该新技术建立在现有的LayerCAM方法之上，通过自适应地利用CNN所有层的激活图。目标是为对象分类任务生成更聚焦、更有用的显著性图，其性能优于LayerCAM和Grad-CAM++等先前方法。
-
AI框架改进超声图像阑尾炎分级
研究人员开发了AppendiGrade，一个旨在改进超声图像阑尾炎分级的深度学习框架。该系统利用了四个预训练模型，包括InceptionV3，在图像锐化和超参数调整等优化技术后，准确率显著提升至95.58%。为了增强可解释性，该框架采用Grad-CAM生成热力图，突出显示超声图像中最有助于模型预测的区域，便于与医学专家进行交叉核对。
-
MagViT transformer框架提高了乳腺癌检测的准确性
研究人员开发了MagViT，一个新颖的可解释多放大Transformer框架，用于乳腺组织病理学分类。该模型使用ViT骨干网络处理四个不同放大倍率（40X、100X、200X、400X）的图像，并采用可学习的门控机制进行尺度门控融合。MagViT在BreakHis数据集上表现强劲，实现了0.9643的平均患者准确率，并在BUSI和IDC等外部数据集上显示出良好的泛化能力。
-
新的临床数据解释AI方法显示出希望，但在现实世界定位方面遇到困难
研究人员开发了一种名为“病理运输”的新方法，该方法利用最优传输来创建临床AI模型的解释。该方法对健康和患病患者的分布进行建模，以生成旨在定位疾病的热图。虽然在表格数据上对于无监督恶性肿瘤评分等任务有效，但发现该方法的热图定位能力在真实的胸部X射线数据上并不可靠，其准确率下降到随机水平，并且与Grad-CAM等监督方法相比表现不佳。该研究强调了合成数据和真实世界性能之间存在的显著差距，并强调了在临床环境中验证AI解释热图的稳健基准的必要性。
-
AI模型增强糖尿病视网膜病变分级的不确定性感知能力
研究人员开发了一种新的自动化糖尿病视网膜病变（DR）分级流程，该流程整合了病灶感知预处理、序数预测和不确定性估计。该系统使用特定的特征表示、EfficientNetV2-L序数回归器以及用于不确定性驱动转诊的蒙特卡洛Dropout。该方法旨在通过提供高准确度、校准的不确定性和可视化解释来支持可靠的诊断系统，在APTOS-2019测试集上达到了91.31%的QWK。
-
AI放射学工具MIRROR将发现与文本分离，以实现可审计报告
研究人员开发了MIRROR，这是一个旨在解决AI驱动的放射学报告问题的原型系统。MIRROR将发现的分类与文本报告的生成分离开来，确保生成的文本可以根据模型的概率分数进行审计。这种方法旨在防止AI系统捏造其自身预测不支持的声明。该系统已在胸部X光、脑部MRI和头部CT等模态上进行了测试，在ChestMNIST上的初步结果显示其分类器的宏观AUROC为0.729，尽管在0.5阈值下的性能有限。
-
神经影像中的可解释人工智能：方法回顾与不足识别
近期一项对神经影像可解释人工智能（XAI）的77项研究进行的综述，识别出了关键方法和显著的不足。该论文重点介绍了Grad-CAM和SHAP等技术，同时也指出了该领域许多XAI方法缺乏充分的临床验证。