研究人员推出 Shieldstral，一个拥有 30 亿参数的多模态安全分类器，用于内容审核。该模型将安全分类构建为一个二元问答任务，将多样化的审核数据集统一到一个单一的训练框架中。在文本安全基准测试中，Shieldstral 的性能与体型大其七倍的模型相当或更优，并在多模态安全分类方面树立了新的最先进水平。该开发工作构建了约 5410 万个训练样本和一个细粒度评估集，以评估策略适应性。 AI
影响 该模型在策略自适应安全分类方面的方法可能带来更高效、更有效的内容审核系统。
排序理由 该集群描述了一篇介绍新型 AI 模型的最新研究论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2607.25857v1 Announce Type: new Abstract: We introduce Shieldstral, a 3B-parameter policy-adaptive multimodal safety classifier that matches or outperforms models nearly 7$\times$ its size on text safety benchmarks and sets a new state of the art on multimodal safety classi…
We introduce Shieldstral, a 3B-parameter policy-adaptive multimodal safety classifier that matches or outperforms models nearly 7times its size on text safety benchmarks and sets a new state of the art on multimodal safety classification. Shieldstral formulates content moderation…