English(EN) New Terms, New Toxicity: Consensus-based Chinese Neologism Toxicity Detection via Search-Augmented LLMs

新框架利用LLM检测中文有毒新词

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-14 04:00

研究人员开发了一个名为SeTox的新框架，用于检测中文新词中的隐性毒性。该框架利用搜索增强的大型语言模型（LLM），整合实时网络上下文，使静态LLM能够识别在公众共识中演变的有毒新词。实验表明，SeTox即使使用规模较小的3B模型，在检测这种细微毒性方面也优于更大的模型。 AI

影响这项研究可以通过使内容审核系统能够检测不断发展的语言中的微妙毒性形式来改进它们。

排序理由该集群包含一篇详细介绍毒性检测新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Shiyao Cui, QingLin Zhang, Di Wang, Yida Lu, Zhexin Zhang, Jinhua Gao, Jinglin Yang, Min He, Han Qiu, Minlie Huang · 2026-08-14 04:00

新术语，新毒性：基于搜索增强大语言模型的共识中文新词毒性检测

arXiv:2608.12361v1 Announce Type: new Abstract: Neologisms, emerging terms in meaning or form, can serve as new vehicles for toxic expression, like "country girl" as a stigmatizing label targeting feminism. Such toxic neologisms appear benign but have evolved into toxic usage in …