Akchunya Chanchal

新的Activation-Deactivation框架增强了AI可解释性

研究人员推出了一种新的事后可解释AI框架Activation-Deactivation (AD)，旨在提高解释的鲁棒性。与依赖扰动输入特征的传统方法不同，AD通过停用模型自身的部分来模拟扰动效果。已开发出一种名为ConvAD的卷积神经网络(CNN)实现，它可以集成到现有的已训练CNN中，无需进一步训练。在各种架构和数据集上的评估表明，与最先进的方法相比，ConvAD生成的解释更鲁棒且可迁移。