ToxGate

ToxGate 通过条件化信号改进多语言毒性检测

研究人员开发了 ToxGate，这是一种新颖的信任融合头，旨在提高毒性检测系统的可靠性，特别是在多语言和代码混合文本方面。传统的审核工具难以处理转写、俚语和语言不匹配等变体。ToxGate 通过在将辅助毒性信号整合到预测状态之前，对其进行编码器表示的条件化来解决这一问题。跨多个数据集和编码器的实验表明，ToxGate 在明确的诽谤和暴力威胁等高风险审核场景中显著提高了性能，为基于证据的审核提供了更细致的方法。