研究人员推出了一种新方法,称为通过激活打补丁实现因果归因 (CAAP),用于识别 Vision Transformers (ViTs) 中有影响力的图像区域。与依赖近似或输入干预的现有技术不同,CAAP 直接操纵内部激活表示。该方法将特定于块的激活插入到跨中间层的中性上下文中,以衡量与块相关的内部表示对模型最终预测的因果贡献。与各种 ViT 架构和度量标准上的当前方法相比,CAAP 在产生更忠实和局部化的归因方面表现出卓越的性能。 AI
影响 提高了 Vision Transformer 的可解释性,有望在计算机视觉应用中带来更值得信赖的 AI 系统。
排序理由 详细介绍 AI 模型可解释性新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →