VaccineBooster

新的防御方法结合了多种技术，以保护大型语言模型免受有害微调的影响

研究人员开发了一种名为 VaccineBooster 的新型对齐防御方法，该方法结合了嵌入扰动和梯度衰减技术，以保护语言模型免受有害微调攻击。在对 LLaMA-2 7B 的测试中，这种混合方法比现有方法获得了更低的 OpenAI 审核分数。然而，一种仅侧重于梯度衰减的变体在有害内容拒绝率方面保持了更高的水平，这表明在减少标记内容和保留明确拒绝行为之间存在权衡。