FDCU

新的FDCU框架增强了LLM在对抗再训练攻击下的安全对齐能力

研究人员开发了一个名为FDCU的新框架，以提高大型语言模型（LLM）在对抗再训练攻击下的鲁棒性。当前的LLM安全对齐方法通常会创建一个容易被微调绕过的表面“抑制壳”，从而导致恶意行为的复现。FDCU通过双重约束强制实现真实的记忆删除来解决这个问题：它利用Fisher信息保留通用知识，并通过最小功能干预原则（PMFI）防止虚假抑制器的激活。实验表明，FDCU能有效拆解目标表示，在保持高通用效用的同时，提供针对再训练攻击的先进鲁棒性。