Ranit Debnath Akash

新的REMI框架识别并缓解AI公平性错误

研究人员开发了REMI，一个旨在识别、解释和缓解数据驱动软件系统中个体公平性错误的新框架。这些错误会导致基于种族或性别等受保护属性的相似个体产生不合理的差异。REMI将反事实公平视为一个关联不变性发现问题，通过学习配对示例来查明公平性违规行为。该框架生成可解释的基于规则的模型，充当“公平性不变性”，能够在不完全重新训练模型的情况下阻止或重新标记不公平的预测。评估显示，REMI能够以超过83%的准确率定位公平性错误，并将歧视性决策减少高达70%。