Probability of Necessity and Sufficiency

新的SNRE框架为机器学习模型提供区域解释

研究人员引入了一个名为因果充分和必要区域解释（SNRE）的新框架，用于在区域层面表征机器学习模型的预测。该方法旨在识别输入区域，这些区域对于模型的输出落在特定范围内既是充分的也是必要的。SNRE利用源自必要性和充分性概率（PNS）的可微分估计器，并采用具有可学习特征掩码的可解释代数区域族来平衡表达能力和可解释性。实验表明，SNRE能够有效地学习区域对，这些区域对表现出强大的充分性-必要性性能、鲁棒的解释行为以及对模型分析的实际效用。