English(EN) "You" Is Not Toxic: How LLM Labelers Rewrite the Web's Conversation Laws

大型语言模型标注者误将“你”视为有毒内容，导致对话分析失衡

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-19 04:00

一项新的研究论文强调了大型语言模型（LLM），如Claude Haiku，在标记在线对话为有毒内容时存在的显著偏见。研究发现，即使人类评估员不这么认为，这些模型也不成比例地将包含第二人称代词（“你”）的评论标记为有毒。这种偏见导致对对话法则的误解，表明随着对话深度的增加，有毒性会增加，而实际上它可能在下降。研究人员提出了一种新方法Threadsafe，通过关注对话法则本身而不是仅仅关注单个标注者的分数来更准确地认证这些法则。 AI

影响凸显了大型语言模型偏见可能歪曲在线言论的潜力，并呼吁采用新方法来确保对话数据的准确分析。

排序理由研究论文发表在arXiv上，详细介绍了大型语言模型在毒性检测中的偏见。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 25 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 研究论文发表在arXiv上，详细介绍了大型语言模型在毒性检测中的偏见。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Liang Yue, Eric A. Vance · 2026-10-19 04:00

“你”并非有毒：大型语言模型标注员如何改写网络的对话法则

arXiv:2610.23446v1 Announce Type: cross Abstract: What the Web community believes about toxic conversations, such as that toxicity rises in longer and deeper threads, was measured mostly with Google's Perspective API, which is shutting down; large language models (LLMs) will make…

本文如何被排名

报道来源 [1]

“你”并非有毒：大型语言模型标注员如何改写网络的对话法则

相关实体

相关话题