研究人员推出了一种新的事后可解释AI框架Activation-Deactivation (AD)，旨在提高解释的鲁棒性。与依赖扰动输入特征的传统方法不同，AD通过停用模型自身的部分来模拟扰动效果。已开发出一种名为ConvAD的卷积神经网络(CNN)实现，它可以集成到现有的已训练CNN中，无需进一步训练。在各种架构和数据集上的评估表明，与最先进的方法相比，ConvAD生成的解释更鲁棒且可迁移。 AI
影响 通过提高模型行为解释的质量，这一新框架有望带来更可靠、更值得信赖的AI系统。
排序理由 该集群包含一篇详细介绍新AI可解释性框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
