Contrastive Concept Importance

新方法通过对比类别对来解释AI模型决策

研究人员开发了一种名为对比概念重要性（CCI）的新方法，以更好地理解概念如何影响复杂AI模型的决策。与关注单一输出类别的先前方法不同，CCI分析两个类别之间的差异，回答“为什么是P而不是Q？”这个问题。这种方法提供有符号分数，指示某个概念是支持一个类别还是另一个类别，从而揭示传统方法无法捕捉到的类别对特定行为。该技术在ImageNet上进行了评估，证明了其区分全局重要概念和专门影响类别对区分的概念的能力。