开放权重LLM在解码设置中显示出鲁棒的同质性偏差

一篇新发表在arXiv上的研究调查了开放权重大型语言模型（LLM）中的同质性偏差。研究人员发现，模型倾向于将边缘化群体描绘得比主流群体内部更加相似，并且即使在调整解码超参数时，这种偏差也保持一致。该研究测试了七个开放权重LLM，并观察到西班牙裔和亚裔美国人在各种采样设置中始终被描绘得更加同质化。研究还强调，用于信号群体身份的方法显著影响了观察到的偏差，其中基于姓名的处理方法与明确标签相比，揭示了黑人群体姓氏的偏差方向发生了逆转。 AI

影响 突出了开放权重LLM中可能存在的偏差，这些偏差可能会影响AI应用中的公平性和代表性。

排序理由 学术论文，详细介绍了关于LLM偏差的研究结果。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• arXiv
• Asian Americans
• Large language models
• Open-weight LLMs
• White Americans

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →