一项新研究表明，大型语言模型（LLMs）在接收人口统计学信息提示时，并不会充当中立的裁判。相反，在没有任何人口统计学条件设置的模型，其判断倾向于与白人、受过大学教育的标注者保持一致。研究进一步表明，对LLMs进行人口统计学特征条件设置，可能会无意中使其判断偏离少数群体，尤其是在使用结合了性别、年龄、种族和教育程度的交叉性特征时。指令调优似乎是造成这种不对称现象的一个因素，这表明应极其谨慎地使用社会人口统计学提示。 AI
影响 揭示了在使用人口统计学条件设置时LLMs的潜在偏见，建议在旨在代表不同观点的应用中需要谨慎。
排序理由 该集群包含一篇详细介绍LLM行为发现的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
- Age
- College-educated women's personality development in adulthood: perceptions and age differences
- Education
- gender
- Instruction Tuning Text-to-SQL with Large Language Models in the Power Grid Domain
- Large language models
- minority group
- race
- Sociodemographic prompting
- White
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
