QuiltNet

新的LiMA方法通过更少的输入子集增强了AI模型的可解释性

研究人员开发了一种新的黑盒归因方法LiMA（Less input is More faithful for Attribution），以提高AI模型的可解释性。LiMA将归因问题构建为有序的可解释子集选择问题，其灵感来源于子模优化原理。通过根据语义一致性、协作性、预测置信度和有效性来评估子集，LiMA能够有效地识别关键的输入子区域。实验表明，LiMA在插入和删除指标上均取得了最先进的性能，比朴素的贪婪搜索更快，并显著提高了对错误预测的归因。