实体
Latent Guard
Latent Guard
PulseAugur coverage of Latent Guard — every cluster mentioning Latent Guard across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI安全监控器在模型实际回答的提示上失效
arXiv上的一篇新研究论文强调了当前AI模型安全监控器有效性方面的一个重大差距。研究发现，当AI模型本身会回答有害内容时，这些监控器在识别这些内容方面基本无效。当提示被改写得不那么露骨时，AI模型的合规性急剧增加，而安全监控器未能捕捉到相当大比例的有害补全。这表明当前的AI安全监控方法不足以应对含糊不清或间接表达的有害请求。
-
新研究揭示 LLM 将有害性与拒绝性分开处理
研究人员发现，大型语言模型（LLM）将有害性概念与其拒绝机制分开编码。这意味着 LLM 可能理解指令是有害的，但仍拒绝执行。该研究提出了一个区别于现有“拒绝方向”的新维度——“有害性方向”，它可以影响 LLM 对指令的解释。这一发现促成了“Latent Guard”的开发，这是一种内在的安全机制，它利用模型内部的有害性表示来检测不安全输入并减少过度拒绝，其性能与 Llama Guard-3-8B 等专用安全模型相当。