Attention-ECLIP

论文揭穿 Grad-ECLIP 解释方法，指出其缺陷和缺乏新颖性

一篇新发布的 arXiv 论文对 Grad-ECLIP（ICML 2024 上提出的 Transformer 解释方法）的有效性提出了质疑。作者们证明，Grad-ECLIP 使用的基于中间特征的方法并非新颖，并且等同于现有的基于注意力的方法，他们称之为 Attention-ECLIP。此外，该论文认为 Grad-ECLIP 产生的解释结果不准确，与原始模型的性能不符，并概述了正确的模型解释的基本原则，以防止类似的错误。