Training-Data Attribution

新的目标-响应雅可比矩阵在AI模型分析中优于影响度量

研究人员引入了目标-响应雅可比矩阵（$J$），这是一种用于理解模型预测如何响应单个训练目标变化的度量。该度量通过关注目标敏感性而非观测权重来补充现有的训练数据归因（TDA）方法。在包括tanh网络和MNIST分类器在内的各种数据集和网络架构上进行的实验表明，$J$在预测目标扰动方面显著优于传统的影响度量，在影响度量失败的情况下取得了接近完美的$R^2$分数。