Explanation Consistency Score

新指标量化医学AI公平性中的解释一致性

研究人员引入了一个名为解释一致性得分（ECS）的新指标来评估医学影像模型的公平性。该得分基于Jensen-Shannon散度，量化了不同人口统计学群体之间归因图的相似程度。在一项涉及糖尿病视网膜病变筛查的案例研究中，ECS显示，尽管不同族裔群体的预测性能存在差异，但解释一致性保持较高水平，并且与这些性能差异没有显著关联。研究结果表明，在评估模型公平性时，解释一致性提供了比预测性能更具补充性的视角。