disability communities

AI毒性检测未能惠及边缘群体，需要社区特定方法

一篇新的研究论文认为，当前用于AI生成图像的毒性检测器不足，尤其对边缘化社区而言。研究强调，一种通用的方法未能识别出针对侏儒症或视力障碍等群体的有害内容，在某些情况下，检测器的表现甚至不如随机猜测。该论文提出了社区特定毒性检测（CTD），并证明像上下文学习（ICL）和参数高效微调（PEFT）这样的方法可以显著提高检测准确性，尽管仍需要持续的研究。