English(EN) Not Safe for All: Auditing the Dialect Penalty in Text-to-Image Safety Pipelines

文本到图像安全过滤器对非标准英语方言表现出偏见

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-01 04:00

一篇题为“并非对所有人都安全：文本到图像安全管线中的方言惩罚审计”的新研究论文发现，文本到图像安全护栏存在显著偏见。研究发现，这些过滤器不成比例地标记来自非标准英语方言的提示，这种现象被称为“方言惩罚”。这种偏见源于文本处理阶段，在该阶段，方言特征被错误地识别为有害，导致不同方言的标记率不均。研究表明，这个问题与不平衡的训练数据有关，可以通过分组平衡的再训练来缓解。 AI

影响凸显了人工智能安全系统中关键的公平性失败，可能影响不同语言用户的可访问性。

排序理由发布在arXiv上的研究论文，详细介绍了人工智能安全管线中的偏见。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 22 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 发布在arXiv上的研究论文，详细介绍了人工智能安全管线中的偏见。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Minkyu Kim, Juhwan Choi, YoungBin Kim · 2026-09-01 04:00

并非对所有人都安全：文本到图像安全管线中的方言惩罚审计

arXiv:2608.29589v1 Announce Type: new Abstract: Text-to-image (T2I) safety guardrails fail to generalize equitably to non-standard dialects. Evaluating 23,080 paired prompts across five English dialects, we formalize this failure as the dialect penalty, where filters trigger base…

本文如何被排名

报道来源 [1]

并非对所有人都安全：文本到图像安全管线中的方言惩罚审计

相关实体

相关话题