Grad-CAM++
PulseAugur coverage of Grad-CAM++ — every cluster mentioning Grad-CAM++ across labs, papers, and developer communities, ranked by signal.
13 天有情绪数据
-
新的LUX架构增强了可解释的内窥镜图像字幕生成
研究人员开发了LUX，一种新颖的图条件视觉-语言架构，用于可解释的内窥镜图像字幕生成。该系统通过构建一个以病变为中心的场景图来表示病变区域及其关系，从而解决了当前深度学习模型的局限性。通过将这些图嵌入集成到T5解码器中，LUX将生成的词语与特定的视觉证据对齐，增强了可解释性并减少了临床发现的幻觉。LUX在医学字幕生成基准测试中的表现优于现有模型。
-
知识蒸馏可改善数据稀疏环境下的卷积神经网络
研究人员研究了知识蒸馏（KD）技术，通过从大型教师模型迁移知识来训练更小、更高效的卷积神经网络（CNN）。虽然KD通常应用于最终输出层，但本研究探讨了将其应用于中间层的好处，特别是在每个类别数据有限的细粒度数据集上。研究结果表明，虽然最后一层蒸馏对于通用数据集通常已足够，但在数据稀疏的情况下，中间层监督能显著提高准确性，证明了开发紧凑且数据高效模型的一种关键方法。
-
新的HiRA-CAM方法增强了CNN的可解释性
研究人员推出了一种名为HiRA-CAM的新方法，用于提高卷积神经网络（CNN）的可解释性。该新技术建立在现有的LayerCAM方法之上，通过自适应地利用CNN所有层的激活图。目标是为对象分类任务生成更聚焦、更有用的显著性图，其性能优于LayerCAM和Grad-CAM++等先前方法。
-
AI框架改进超声图像阑尾炎分级
研究人员开发了AppendiGrade，一个旨在改进超声图像阑尾炎分级的深度学习框架。该系统利用了四个预训练模型，包括InceptionV3，在图像锐化和超参数调整等优化技术后，准确率显著提升至95.58%。为了增强可解释性，该框架采用Grad-CAM生成热力图，突出显示超声图像中最有助于模型预测的区域，便于与医学专家进行交叉核对。
-
MagViT transformer框架提高了乳腺癌检测的准确性
研究人员开发了MagViT，一个新颖的可解释多放大Transformer框架，用于乳腺组织病理学分类。该模型使用ViT骨干网络处理四个不同放大倍率（40X、100X、200X、400X）的图像，并采用可学习的门控机制进行尺度门控融合。MagViT在BreakHis数据集上表现强劲，实现了0.9643的平均患者准确率，并在BUSI和IDC等外部数据集上显示出良好的泛化能力。
-
新的临床数据解释AI方法显示出希望，但在现实世界定位方面遇到困难
研究人员开发了一种名为“病理运输”的新方法，该方法利用最优传输来创建临床AI模型的解释。该方法对健康和患病患者的分布进行建模，以生成旨在定位疾病的热图。虽然在表格数据上对于无监督恶性肿瘤评分等任务有效，但发现该方法的热图定位能力在真实的胸部X射线数据上并不可靠，其准确率下降到随机水平，并且与Grad-CAM等监督方法相比表现不佳。该研究强调了合成数据和真实世界性能之间存在的显著差距，并强调了在临床环境中验证AI解释热图的稳健基准的必要性。
-
AI模型增强糖尿病视网膜病变分级的不确定性感知能力
研究人员开发了一种新的自动化糖尿病视网膜病变（DR）分级流程，该流程整合了病灶感知预处理、序数预测和不确定性估计。该系统使用特定的特征表示、EfficientNetV2-L序数回归器以及用于不确定性驱动转诊的蒙特卡洛Dropout。该方法旨在通过提供高准确度、校准的不确定性和可视化解释来支持可靠的诊断系统，在APTOS-2019测试集上达到了91.31%的QWK。
-
AI放射学工具MIRROR将发现与文本分离，以实现可审计报告
研究人员开发了MIRROR，这是一个旨在解决AI驱动的放射学报告问题的原型系统。MIRROR将发现的分类与文本报告的生成分离开来，确保生成的文本可以根据模型的概率分数进行审计。这种方法旨在防止AI系统捏造其自身预测不支持的声明。该系统已在胸部X光、脑部MRI和头部CT等模态上进行了测试，在ChestMNIST上的初步结果显示其分类器的宏观AUROC为0.729，尽管在0.5阈值下的性能有限。
-
神经影像中的可解释人工智能：方法回顾与不足识别
近期一项对神经影像可解释人工智能（XAI）的77项研究进行的综述，识别出了关键方法和显著的不足。该论文重点介绍了Grad-CAM和SHAP等技术，同时也指出了该领域许多XAI方法缺乏充分的临床验证。
-
二维卷积神经网络提高光谱图像植物性状检索精度
研究人员开发了一种新的高光谱成像植物性状检索方法，通过将一维光谱数据转化为二维图像。该方法利用EfficientNet-B0等卷积神经网络（CNN），与传统的一维序列处理相比，显著提高了预测精度。预训练的掩码自编码器（MAE-2D）进一步提升了性能，优于一维自监督方法。研究还采用了集成梯度和Grad-CAM等技术来识别驱动预测的关键光谱波长，并将其与蛋白质和水分含量等性状的既定叶片化学成分相关联。
-
AmalthAI平台使人工智能在文化遗产分析中的应用更加普及
一个名为AmalthAI的新型开源计算机视觉平台已被开发出来，旨在让文化遗产专家更容易获得人工智能工具。该平台简化了数据集管理、模型训练和推理等任务（如分类和对象检测）的流程。它包含了用于超参数调整、模型预测的可视化解释和文本描述的工具，同时通过可自托管的部署确保数据隐私。AmalthAI已在考古数据上进行了测试，使专家能够训练和验证模型以进行假设检验。
-
新的集成深度学习框架提高了皮肤病变分类的准确性
研究人员开发了一种新的深度学习框架，用于对医学图像中的皮肤病变进行分类。该框架结合了 Vision Transformer 模型 MaxViT-Tiny 和两个卷积神经网络模型 ConvNeXt-Tiny 和 EfficientNetV2-B0，并使用了深度集成学习。该系统集成了蒙特卡洛 Dropout 来估计预测不确定性，并使用 Grad-CAM++ 进行可视化解释，突出显示图像中对分类决策有贡献的区域。在 HAM10000 数据集…
-
研究发现AI艺术检测器难以应对新的生成模型
Hugging Face的一项新研究调查了AI艺术检测器在面对不同模型生成的图像时的鲁棒性。研究人员发现，在一种架构（如基于U-Net的潜在扩散模型）上训练的检测器，在评估更新的架构（如Stable Diffusion 3.5 Medium）时表现不佳。这种“生成器迁移”会导致误分类，表明当前AI艺术检测方法存在泛化差距，并强调了对更具适应性的检测系统的需求。
-
新AI框架通过不确定性和可解释性增强皮肤病变分类
研究人员开发了一个新的皮肤病变分类框架，该框架结合了深度集成学习、不确定性量化和可解释性技术。该方法使用多种模型，包括视觉 Transformer 和 CNN，以提高准确性并识别不可靠的预测。该系统在 HAM10000 数据集上表现出色，准确率达到 96%，ROC-AUC 达到 99%，尤其是在基于不确定性过滤预测时。
-
新的AQUA20数据集旨在解决具有挑战性的水下物种分类问题
研究人员推出了AQUA20，这是一个旨在改进水下物种分类的新基准数据集。该数据集包含20种海洋物种的8,171张图像，经过专门策划，以应对浊度、低光照和遮挡等挑战。对十三种深度学习模型进行了实验，其中ConvNeXt在90.69%的Top-1准确率和88.92%的F1分数方面表现出最高的准确率，尽管其他模型也显示出不同的性能权衡。该研究还包括使用GRAD-CAM和LIME进行的解释性分析，以解释模型行为。
-
新框架整合AI用于工业缺陷检测和报告
一篇新研究论文介绍RobustDefect-LLM，一个整合深度学习与决策支持和AI辅助报告的工业表面缺陷分类框架。该系统使用四个卷积神经网络，其中MobileNetV3-Large在NEU-DET数据集上达到了99.26%的最高准确率。虽然在名义条件下鲁棒，但模型在严重图像退化下的准确率显著下降。该框架包含一个针对低置信度预测的人工审查系统，并生成通过确定性一致性检查的报告。
-
新AI模型使用稀疏路由进行视网膜病变分析
研究人员开发了一种新的深度学习架构，用于分析视网膜眼底图像，该架构利用了稀疏条件计算。该模型将一个引导式上下文门控（GCG）空间注意力前端与一个稀疏路由的专家混合（MoE）块配对。该系统表明，专家分配显著依赖于存在的疾病，像ERM和AMD等不同的病理学会隔离到特定的专家。该模型在一个五类基准测试中取得了0.912的宏观AUC和0.653的宏观F1分数，可视化结果证实专家路由与局部病变对齐，并对共存性病例进行几何映射。
-
新论文审计 Grad-CAM 在 Vision Transformers 上的应用
一篇新论文系统地分析了 Grad-CAM（一种用于可视化 AI 模型决策的技术）在 Vision Transformers (ViTs) 上的应用。虽然 Grad-CAM 最初是为卷积神经网络 (CNNs) 设计的，但 ViTs 具有基于 token 和注意力机制的不同架构。研究发现，许多论文在将 Grad-CAM 应用于 ViTs 时，没有充分详细说明方法论选择，这可能导致严谨性和可复现性方面出现问题。
-
新的孟加拉手语识别模型针对移动设备部署进行了优化
研究人员开发了一个新的孟加拉手语（BdSL）识别系统，该系统专为在个人设备上部署而设计。该系统包括一个包含超过10,000张专家验证的BdSL手势图像的数据集，以及一个轻量级的、基于注意力的卷积神经网络。该模型在各种基准测试中实现了高精度，并且针对效率进行了优化，与在ImageNet上预训练的模型相比，所需的参数和计算资源显著减少。该系统能够在具有小占位面积的商品智能手机上运行。
-
新的 HexMIL 方法可高精度检测 AI 操纵的 CT 扫描
研究人员开发了 HexMIL，一种检测 AI 操纵的医学图像（特别是计算机断层扫描 (CT) 体）的新方法。该方法在多实例学习框架内使用分层注意力机制，无需像素级注释即可识别操纵区域。HexMIL 表现出卓越的泛化能力，在跨生成器检测和定位任务中优于现有方法。