开源安全防护模型接受评估；较小的 Qwen Guard 在召回率方面领先

一项新的研究论文使用包含八个安全类别、超过 79,000 个样本的基准来评估 14 个开源安全防护模型。研究发现，模型大小与安全检测性能不相关，令人惊讶的是，一个较小的模型 Qwen Guard（40亿参数）实现了 83.97% 的最高召回率。Llama Guard 和 GPT-OSS Safeguard 等较大模型错过了大量不安全内容，凸显了召回率作为安全应用的关键指标。 AI

影响 强调了小型、专业化模型在安全检测方面可以优于大型通用模型，指导了实际生产部署的选择。

排序理由 该集群包含一篇评估开源模型的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• BeaverTails
• GPT-OSS Safeguard
• HarmBench
• Llama Guard
• NIST AI Risk Framework
• Qwen Guard
• RealToxicityPrompts
• StrongREJECT

• 论文
• 安全
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →