实体
safety neurons
safety neurons
PulseAugur coverage of safety neurons — every cluster mentioning safety neurons across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究揭示 LLM 安全电路，提高拒绝率
研究人员在大型语言模型 (LLM) 中识别出一个多阶段安全电路，该电路控制其拒绝有害内容的能力。该电路包括有害检测头、安全神经元和拒绝头，它们按顺序工作，处理有害输入并生成安全响应。通过基于对该电路的理解进行的有针对性的干预和权重缩放，该研究证明了 LLM 在对抗性攻击下的安全率得到了显著提高，同时对一般准确性的影响最小。
-
新的DRAA框架提升AI对抗白盒攻击的安全性
研究人员引入了一个名为动态路由自适应对齐（DRAA）的新框架，以增强大型基础模型（LFMs）在面对复杂的白盒攻击时的安全性。这些攻击针对内部安全机制，不同于之前的黑盒越狱。DRAA通过识别并动态绕过受损的安全路径来工作，确保模型即使在其主要安全路径中断时也能保持强大的拒绝行为和通用效用。实验表明，DRAA显著提高了模型对这些高级对抗技术的抵御能力。