实体
Qwen3Guard
Qwen3Guard
PulseAugur coverage of Qwen3Guard — every cluster mentioning Qwen3Guard across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI安全防护模型易受“拒绝提示捷径”攻击
研究人员发现AI安全防护模型存在一个名为“拒绝提示捷径”的重大漏洞。该捷径允许通过简单地包含拒绝短语来将有害的AI响应错误地归类为安全。此问题影响了广泛使用的安全防护训练数据集，甚至包括LlamaGuard3和Qwen3Guard等官方发布的模型。为解决此问题，开发了一种使用稀疏互补掩码的后处理干预方法，该方法在无需重新训练模型的情况下，可将由拒绝提示引起的检测失败率有效降低约79%，同时保持标准的检测性能。
-
Mistral AI 发布政策自适应多模态安全模型 Shieldstral
Mistral AI 发布了 Shieldstral 1.0 3B，这是一款专为高效内容审核设计的新型多模态安全分类器。与预测固定类别的传统模型不同，Shieldstral 在推理时能够适应提供的自然语言安全策略，从而无需重新训练即可处理新颖的审核标准。这款紧凑、开放权重模型可以处理文本、图像或两者兼有，并针对资源受限环境进行了优化。