English(EN) Dialect vs Demographics: Quantifying LLM Bias from Implicit Linguistic Signals vs. Explicit User Profiles

LLM偏见研究揭示安全过滤器在显性身份线索上失效

作者 PulseAugur 编辑部 · [1 个来源] · 2026-04-22 23:33

一篇新的arXiv研究通过比较显性人口统计学画像与隐性语言信号（如方言）来调查大型语言模型（LLMs）中的偏见。研究人员发现，LLMs常常表现出矛盾的安全行为，显性身份提示会触发更严格的过滤器，并对某些人口群体产生更高的拒绝率。相反，使用隐性方言线索，如非洲裔美国人白话英语（AAVE）或新加坡英语（Singlish），可以绕过安全机制，导致拒绝率降低，但可能损害内容净化。研究结果表明，当前的LLM安全对齐技术很脆弱，并且过度依赖显性关键词，从而造成不平等的用户体验。 AI

影响强调了LLM中关键的安全权衡，表明当前的对齐方法可能无法充分支持语言多样性。

排序理由关于LLM偏见和安全机制的学术论文。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Belén Saldías · 2026-04-22 23:33

Dialect vs Demographics: Quantifying LLM Bias from Implicit Linguistic Signals vs. Explicit User Profiles

As state-of-the-art Large Language Models (LLMs) have become ubiquitous, ensuring equitable performance across diverse demographics is critical. However, it remains unclear whether these disparities arise from the explicitly stated identity itself or from the way identity is sign…

报道来源 [1]

Dialect vs Demographics: Quantifying LLM Bias from Implicit Linguistic Signals vs. Explicit User Profiles

相关实体

相关话题