Integrated Directional Gradients

H-Sets 框架揭示图像分类器中的特征交互

研究人员开发了 H-Sets，一个旨在揭示和归因图像分类器中高阶特征交互的新框架。该方法超越了对单个特征的分析，以理解特征组如何共同影响模型的输出。H-Sets 利用输入 Hessian 来检测交互特征对，然后将它们合并成连贯的集合，并采用集成方向梯度（Integrated Directional Gradients）的集合级扩展进行归因。在各种模型和数据集上的评估表明，与现有技术相比，H-Sets 产生的显著性图更具可解释性和忠实性。