研究人员开发了一种用于直播的混合内容审核系统，该系统结合了监督分类和多模态大语言模型（MLLM）的相似性匹配。该方法旨在有效识别已知违规行为和新出现的、不断演变的不良内容形式。该系统已投入生产使用，能够处理文本、音频和视觉输入，并实现了显著的召回率和准确率。大规模A/B测试表明，用户暴露于不良直播的情况显著减少。 AI
影响 增强了实时检测和缓解有害内容的能力，可能提高用户安全性和平台完整性。
排序理由 关于内容审核新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →