Causal Integrated Gradients

新的因果特征归因方法提高了 AI 模型的可解释性

研究人员引入了因果集成梯度（CIG）和因果期望梯度（CEG），这是机器学习中用于特征归因的新方法，它们整合了输入特征之间先验的因果结构。这些方法通过沿因果图路由积分路径来扩展现有技术，从而可以将特征的归因分解为直接效应和中介效应。在合成数据、模拟基因表达数据和真实的干扰素刺激数据上的评估表明，与 DeepSHAP 和集成梯度等传统方法相比，CIG 可以在不牺牲可扩展性的情况下更准确地识别上游驱动因素。