实体
Toxicity detection sensitive to conversational context
Toxicity detection sensitive to conversational context
PulseAugur coverage of Toxicity detection sensitive to conversational context — every cluster mentioning Toxicity detection sensitive to conversational context across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI毒性检测未能惠及边缘群体，需要社区特定方法
一篇新的研究论文认为，当前用于AI生成图像的毒性检测器不足，尤其对边缘化社区而言。研究强调，一种通用的方法未能识别出针对侏儒症或视力障碍等群体的有害内容，在某些情况下，检测器的表现甚至不如随机猜测。该论文提出了社区特定毒性检测（CTD），并证明像上下文学习（ICL）和参数高效微调（PEFT）这样的方法可以显著提高检测准确性，尽管仍需要持续的研究。
-
新研究解决多语言LLM毒性检测与缓解问题
两篇新研究论文探讨了在大型语言模型（LLM）中检测和缓解毒性的方法，特别关注多语言环境。第一篇论文调查了跨不同语言识别和减少有害输出的现有策略，强调了语言覆盖不均和有害定义具有文化特异性等挑战。第二篇论文介绍了ToxSearch-S，一种分布式进化搜索算法，旨在寻找引发毒性响应的对抗性提示，并通过MPI实现和改进的毒性检测与现有方法相比，展示了效率的提升。