PopResume

新数据集PopResume可对AI简历筛选器进行因果公平性审计

研究人员推出了PopResume，这是一个新数据集，旨在评估用于简历筛选的AI系统的公平性。该数据集基于人口统计数据构建，并保留了自然的属性关系，与现有基准相比，可以进行更细致的公平性评估。通过将受保护属性的影响分解为业务必要性和红线路径，PopResume可以识别聚合指标可能遗漏的歧视模式。使用PopResume对八个大型语言和视觉语言模型进行的评估揭示了五种不同的歧视模式，凸显了在AI辅助招聘中对因果审计框架的需求。