实体
Sociodemographic prompting
Sociodemographic prompting
PulseAugur coverage of Sociodemographic prompting — every cluster mentioning Sociodemographic prompting across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
大型语言模型人口统计提示显示出偏见和不一致性
新的研究表明，使用社会人口统计提示与大型语言模型（LLMs）来使其判断与特定人群保持一致，可能会导致意想不到的后果。一项研究发现，未经人口统计条件约束的模型倾向于偏袒多数群体的判断，并且在敏感环境中，约束条件可能不成比例地使预测偏离少数群体。另一篇论文强调，不同的社会人口统计线索，例如姓名，可能会在大型语言模型的个性化和偏见方面产生不一致的结果，这表明模型对语言信号而非稳定的社会人口统计类别做出反应。两项研究都呼吁在使用大型语言模型的…
-
当使用人口统计学进行提示时，LLM会表现出对多数群体的偏见
一项新研究表明，大型语言模型（LLMs）在接收人口统计学信息提示时，并不会充当中立的裁判。相反，在没有任何人口统计学条件设置的模型，其判断倾向于与白人、受过大学教育的标注者保持一致。研究进一步表明，对LLMs进行人口统计学特征条件设置，可能会无意中使其判断偏离少数群体，尤其是在使用结合了性别、年龄、种族和教育程度的交叉性特征时。指令调优似乎是造成这种不对称现象的一个因素，这表明应极其谨慎地使用社会人口统计学提示。