PulseAugur
中
实时 07:19:35
实体 Contrastive Neuron Attribution (CNA)

Contrastive Neuron Attribution (CNA)

PulseAugur coverage of Contrastive Neuron Attribution (CNA) — every cluster mentioning Contrastive Neuron Attribution (CNA) across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
时间线
  1. 2026-05-23 research_milestone Nous Research developed Contrastive Neuron Attribution (CNA) to identify and steer specific neurons controlling AI model refusal behavior.
  2. 2026-05-23 research_milestone Nous Research developed Contrastive Neuron Attribution (CNA), a method to identify and manipulate specific neurons controlling LLM refusal behavior. 来源
  3. 2026-05-23 research_milestone Nous Research developed Contrastive Neuron Attribution (CNA) to steer LLM behavior by targeting specific neurons.
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_47102 ·

    Nous Research 的 CNA 方法通过靶向 0.1% 的神经元来引导 LLM 的拒绝行为

    Nous Research 的研究人员开发了一种名为对比神经元归因 (CNA) 的新方法，用于识别和操纵大型语言模型中控制拒绝行为的特定神经元。通过仅靶向这些神经元的 0.1%，CNA 可以将 Llama 和 Qwen 等模型的有害请求拒绝率降低 50% 以上，同时保持高质量的输出。该技术无需额外的训练或修改模型权重即可运行，重要的是，它揭示了区分有害提示和良性提示的底层神经结构即使在对齐微调之前的基础模型中也存在。