Disparity Laundering

新研究：临床AI多智能体系统会“洗白”偏见，而非消除

一篇题为“Disparity Laundering”的新研究论文揭示，即使是旨在平均化误差的多智能体临床AI系统，也无法消除偏见，甚至可能放大偏见。在MIMIC-IV数据上进行的实验表明，无论模型或聚合拓扑如何，人口统计学信息互换始终导致黑人患者接受更紧急的分类。研究发现，后期干预公平性无效，唯一成功的缓解方法是通过多视角集成，在每个决策轮次汇总反事实版本，从而使偏见可见。