研究人员开发了一种新的神经网络解释方法——熵正则化积分梯度法(ERIG),该方法增强了特征归因的稳定性。与先前的方法不同,ERIG使用最大熵softmax加权来减少由微小输入扰动引起的 Irregularities。在ImageNet和Oxford-IIIT Pet数据集上的CNN和Transformer模型上进行的实验表明,ERIG在计算成本极小的情况下显著提高了归因稳定性和定位精度。 AI
影响 提高了AI模型的可解释性,有望带来更值得信赖和易于调试的系统。
排序理由 介绍神经网络新解释方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- CNN
- Entropy-Regularized Integrated Gradients
- ImageNet
- Integrated Gradients
- Oxford-IIIT Pet
- Rukmangadh Sai Myana
- transformer
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →