Counterfactual Marginalisation

新框架评估AI模型对干扰变量的鲁棒性

研究人员引入了反事实边缘化（CF marginalisation），一种新颖的测试时评估程序，旨在评估分类模型对干扰变量的鲁棒性。该框架通过干预年龄或性别等变量来生成测试图像的反事实版本，然后在干预分布上平均预测。由此产生的干预感知预测旨在消除人口统计学效应的影响，同时保留患者特定的潜在信息，从而能够定义反事实风险、校准、稳定性和最坏情况敏感性的度量。该论文展示了该框架在定量鲁棒性评估方面的效用。