Normalised Sensitivity Ratio

新方法在事后识别 AI 模型中的因果特征与虚假特征

研究人员推出了一种新颖的事后方法——归一化敏感性比率（NSR），用于识别已训练 AI 模型中的因果特征。与以往的技术不同，NSR 不需要访问模型的训练过程。它在结构化迁移机制下运行，其中环境主要在虚假特征的均值上有所不同，而因果机制保持稳定。在合成数据和真实世界数据集（如自行车共享数据）上的实验表明，NSR 在恢复因果特征方面具有有效性，并且在各种模型家族中表现一致。