Kyra Wilson

研究发现：AI招聘工具对女性和少数族裔存在显著偏见

一项发表在arXiv上的新研究调查了使用语言模型进行简历筛选的AI招聘工具中潜在的偏见。研究人员发现，大规模文本嵌入（MTE）模型表现出显著的偏见，在85.1%的情况下偏向与白人相关的名字，而与女性相关的名字仅占11.1%。该研究模拟了九种职业的简历筛选，使用了超过500份简历和职位描述，结果显示，在高达100%的模拟场景中，黑人男性处于不利地位，这与现实世界中的就业偏见相呼应。研究还探讨了交叉偏见以及文档长度和名字语料库频率对筛选结果的影响。