White Americans

开放权重LLM在解码设置中显示出鲁棒的同质性偏差

一篇新发表在arXiv上的研究调查了开放权重大型语言模型（LLM）中的同质性偏差。研究人员发现，模型倾向于将边缘化群体描绘得比主流群体内部更加相似，并且即使在调整解码超参数时，这种偏差也保持一致。该研究测试了七个开放权重LLM，并观察到西班牙裔和亚裔美国人在各种采样设置中始终被描绘得更加同质化。研究还强调，用于信号群体身份的方法显著影响了观察到的偏差，其中基于姓名的处理方法与明确标签相比，揭示了黑人群体姓氏的偏差方向发生了逆转。