English(EN) Whose Judgments Count? Representation Gaps in Crowdsourced Content Moderation Produce Unequal Protection from Perceived Toxicity

研究：版主人口统计特征导致在线毒性保护不平等

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-03 04:00

一项对来自美国16,000多名受访者的内容审核判断进行的分析显示，用户在网上免受感知到的毒性侵害的保护方面存在显著的人口统计学差异。研究发现，与Prolific等平台的人口统计构成相似的版主群体加剧了这些不平等，不成比例地使与版主身份相同的用户受益。即使有代表性的版主群体，除非黑人和LGB用户的代表性显著超过其人口比例，否则他们仍然受到保护不足，这表明分层删除标准的聚合在结构上导致了不平等的保护。 AI

影响强调了由AI驱动的内容审核系统，如果使用有偏见的数据进行训练，可能会延续和放大社会不平等。

排序理由在arXiv上发表的研究论文，详细介绍了内容审核的发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 22 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 在arXiv上发表的研究论文，详细介绍了内容审核的发现。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, policy, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Zhaodi Chen, Byungkyu Lee · 2026-09-03 04:00

谁的判断更重要？众包内容审核中的代表性差距导致对感知毒性的保护不平等

arXiv:2609.01625v1 Announce Type: cross Abstract: Content moderation is a central form of digital governance, yet people disagree over what content should be removed from shared online spaces. While platforms aggregate human judgments to build moderation systems, it remains uncle…

本文如何被排名

报道来源 [1]

谁的判断更重要？众包内容审核中的代表性差距导致对感知毒性的保护不平等

相关实体

相关话题