新系统使用大型语言模型来衡量违反政策内容的普遍性

一篇新的研究论文介绍了一个旨在衡量在线平台违反政策内容的普遍性的系统。该系统利用机器学习辅助采样，将标注工作集中在高曝光和高风险内容上，同时采用多模态大型语言模型进行标注。目标是提供具有置信区间的准确普遍性估计，使内容安全团队能够更好地理解用户体验。 AI

影响 该系统可以通过利用大型语言模型进行标注和智能采样来提高内容审核的准确性和效率。

排序理由 该项目是一篇研究论文，详细介绍了一种衡量内容违规的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

• alphaXiv
• arXiv
• Attila Dobi
• CatalyzeX
• CORE Recommender
• DagsHub
• Gotit.pub
• Hugging Face
• IArxiv Recommender
• LLM Labeling
• ML Assisted Sampling
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →