Concept-based Explanations

新的ConEx框架增强了AI视觉解释的可解释性

研究人员开发了一个名为概念解释（ConEx）的新框架，以提高计算机视觉中视觉解释的可解释性和可信度。ConEx通过自动发现特定类别的概念并通过概念激活向量表示它们，从而将显著性可视化与基于概念的推理联系起来。该方法生成忠实的显著性图，指示概念在图像中的出现位置及其对预测的贡献。该框架还引入了两个指标：向量-概念匹配（VCM）和概念-类别匹配（CCM），以评估所学概念的可靠性。