DeCNIP

新的DeCNIP方法有效中和LLM后门

研究人员开发了一种名为DeCNIP（Defense with Critical Neuron Isolation Pruning）的新方法，以对抗大型语言模型（LLM）中的后门攻击。与之前专注于微调或简单分类任务的防御方法不同，DeCNIP使用表示分析在一个统一的流程中识别和中和后门。它通过优化交叉熵损失来揭示触发机制，然后隔离并剪枝“后门关键神经元”（BCNs），以消除恶意影响，同时保持模型的效用。在六个开源LLM上的评估表明，De…