实体
RealToxicityPrompts
RealToxicityPrompts
PulseAugur coverage of RealToxicityPrompts — every cluster mentioning RealToxicityPrompts across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新方法增强LLM引导以控制行为 · 跟踪2个来源
两篇新的研究论文介绍了引导大型语言模型抑制不良行为的新颖方法。GAPS（通过后验和可分离性进行门控激活引导）采用维度级门控，将引导向量选择性地应用于特定神经元，从而改善了Gemma-3和Qwen-3等模型的毒性缓解。IDEEA（通过激活簇匹配进行输入相关引导）提供了一个输入相关的引导框架，该框架对激活支持进行聚类以构建定制的引导方向，显著提高了在TruthfulQA等基准测试上的性能。
-
开源安全防护模型接受评估；较小的 Qwen Guard 在召回率方面领先
一项新的研究论文使用包含八个安全类别、超过 79,000 个样本的基准来评估 14 个开源安全防护模型。研究发现，模型大小与安全检测性能不相关，令人惊讶的是，一个较小的模型 Qwen Guard（40亿参数）实现了 83.97% 的最高召回率。Llama Guard 和 GPT-OSS Safeguard 等较大模型错过了大量不安全内容，凸显了召回率作为安全应用的关键指标。