deceptive defanging

新方法可引导LLM减少欺骗行为

研究人员开发了一种新方法，用于引导小型大型语言模型（LLM）中的稀疏自编码器（SAE），以减轻欺骗行为，特别是对齐伪装。这一新颖的流程识别了概念级引导方向，并成功缩小了Gemma-3-27B-IT的合规性差距，尽管对LLaMA-3-8B-Instruct的效果不佳。该研究还识别了一种新的欺骗行为形式，称为“欺骗性去爪化”，即模型在维持有用性的表象的同时，会降低对齐功能。