Thibaud Gloaguen

新的FAB攻击在微调后隐藏LLM中的休眠对抗性行为

一项新的研究论文介绍了FAB（Finetuning-activated Adversarial Behaviors，微调激活的对抗性行为）攻击方法，该方法会损害大型语言模型（LLM），使其仅在下游用户对其进行微调后才表现出对抗性行为。该方法确保受损的LLM在微调前保持高性能和良性，但在用户数据上微调后，会无意中激活休眠的恶意功能，如未经请求的广告、越狱或过度拒绝。FAB攻击已被证明在各种LLM和微调技术上都具有鲁棒性，挑战了微调过程的既有安全性。