一项名为ABLEIST的新研究论文发现,在招聘场景中,大型语言模型(LLMs)存在显著的与残疾相关的交叉偏见。该研究审计了六个大型语言模型在2,820个场景中的表现,结果显示当前模型常常无法检测到微妙的残疾歧视行为,并且这种歧视行为对于来自全球南方边缘化性别和种姓背景的候选人来说更为严重。研究结果突显了现有AI安全工具存在的关键缺陷,并强调了在招聘等高风险应用中对前沿模型进行更具交叉性的评估的必要性。 AI
影响 突显了当前AI安全工具存在的关键盲点,以及在招聘等高风险领域对前沿模型进行交叉性评估的必要性。
排序理由 学术论文,详细介绍了AI偏见的新方法和发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →