ModerationBench

基础模型在审核在线内容方面展现出潜力，新基准揭示

一项名为ModerationBench的新基准，包含来自Bluesky平台的4000条标注帖子，已被开发用于评估基础模型如何审核在线内容。研究人员比较了两种指导视觉语言模型（VLMs）的方法：一种使用政策原则的指令驱动方法，另一种使用先前先例的示例驱动方法。研究发现，基础模型在很大程度上优于Bluesky现有的审核系统，其F1分数几乎是后者的三倍，两种指导方法都显示出相当的有效性。