研究人员开发了 H-Sets，一个旨在揭示和归因图像分类器中高阶特征交互的新框架。该方法超越了对单个特征的分析，以理解特征组如何共同影响模型的输出。H-Sets 利用输入 Hessian 来检测交互特征对，然后将它们合并成连贯的集合，并采用集成方向梯度（Integrated Directional Gradients）的集合级扩展进行归因。在各种模型和数据集上的评估表明，与现有技术相比，H-Sets 产生的显著性图更具可解释性和忠实性。 AI
影响 通过揭示复杂的特征交互来增强图像分类器的可解释性，可能有助于改进模型调试和信任。
排序理由 学术论文，详细介绍了图像分类器中特征归因的新方法。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2604.22045v1 Announce Type: new Abstract: Feature attribution methods explain the predictions of deep neural networks by assigning importance scores to individual input features. However, most existing methods focus solely on marginal effects, overlooking feature interactio…
Feature attribution methods explain the predictions of deep neural networks by assigning importance scores to individual input features. However, most existing methods focus solely on marginal effects, overlooking feature interactions, where groups of features jointly influence m…