实体
Attention Rollout
Attention Rollout
PulseAugur coverage of Attention Rollout — every cluster mentioning Attention Rollout across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的 HiLRP 方法为各种 Vision Transformer 提供了统一的解释
研究人员开发了一种名为 HiLRP 的新归因方法，旨在为 Vision Transformer (ViT) 模型提供单一、可信的解释。现有方法在处理 ViT 的多样化架构时遇到困难，常常依赖于在不同变体中不成立的假设。HiLRP 将 ViT 操作分解为四种基本类型，使其能够生成适用于广泛 ViT 系列的保守有效归因图，这与之前可能产生不准确或夸大相关性得分的方法不同。
-
新的“内部可解释性”方法探究 Transformer 模型
研究人员引入了一个名为“内部可解释性”的新概念，以更好地理解 Transformer 模型的内部工作机制。该方法利用注意力展开，将其视为调节特征标记之间信息传播的算子。通过应用收缩理论，他们发现在为代谢组学年龄预测训练的 Transformer 模型中，这种传播随着模型深度的增加而更加明显。虽然注意力展开提供了对注意力介导的传播的见解，但它并未被呈现为确定的因果解释或完整的归因方法。
-
新的审计协议评估视觉检测中AI解释的忠实度
研究人员开发了一种新的方法来审计用于工业视觉检测的深度学习模型所生成的解释。该“架构感知”协议评估解释方法在多大程度上忠实地识别了对模型决策至关重要的图像区域。研究发现，解释的忠实度高度依赖于所使用的特定模型架构、解释器技术和扰动方法，这表明解释路径应与模型架构协同设计，并附带量化的忠实度指标。