Omar Mohamed Ahmed Mahmoud

研究人员发现大语言模型后门攻击的共享潜在机制

研究人员已在大语言模型的各种后门攻击中识别出一种共享的潜在机制，这挑战了这些攻击是孤立的触发-响应失败的观点。通过在模型激活上使用稀疏自编码器，他们发现一组小的特征在不同类型的攻击（包括越狱和偏见诱导）中持续被激活。这些特征被证明是因果性的，并且可以在Qwen3、Gemma~3和Llama~3.1等模型之间转移，从而催生了一种名为概念消融微调（CAFT）的新缓解技术，该技术通过消融这个共享子空间来抑制后门的形成。