Wistan Marchadour

新的XAI评估框架关注真实世界中的少类别CNN

研究人员引入了一个新的框架来评估可解释人工智能（XAI）技术的忠实度，该框架专门针对在真实世界应用中使用且类别有限的卷积神经网络（CNN）分类器。所提出的方法生成分布内、能引发不确定性的扰动，以更准确地衡量XAI方法在多大程度上反映了模型的决策过程。该评估框架已在医学和自然成像数据集上进行了演示，突显了领域、数据策展和XAI方法选择对于验证新CNN模型的重要性。