Modified Sequential Ignorability

人工智能信用偏见分解：分析结构性不平等与直接歧视

一篇新的研究论文提出了一种方法，用于区分人工智能驱动的信用决策中的直接歧视和结构性不平等。该研究基于 Pearl 的框架，使用因果中介分析，在比以往要求更弱的假设下，识别干预性的直接和间接效应。对抵押贷款申请数据的实证评估显示，约 77% 的种族信用拒绝差异与结构性不平等有关，其余 23% 是直接歧视的下限。研究人员还发布了一个名为 CausalFair 的开源 Python 包来实现他们的方法。