Keren De Jesus Fuentes

研究发现：语言模型存在隐藏的职业偏见

一篇新发表在arXiv上的研究论文探讨了语言模型中的职业偏见，研究表明即使行为指标未检测到差异，这些模型通常仍保留与性别、种族和社会经济地位等人口属性的内部关联。该研究引入了一个因果框架来衡量这些偏见，区分了模型对用户能力的内部表征与其可观察的输出。研究人员证明，通过干预这些内部表征，他们可以对模型在问答和招聘等任务中的行为产生因果影响，这表明标准的行为评估可能会遗漏潜在的故障模式。