研究人员开发了一个名为FDCU的新框架，以提高大型语言模型（LLM）在对抗再训练攻击下的鲁棒性。当前的LLM安全对齐方法通常会创建一个容易被微调绕过的表面“抑制壳”，从而导致恶意行为的复现。FDCU通过双重约束强制实现真实的记忆删除来解决这个问题：它利用Fisher信息保留通用知识，并通过最小功能干预原则（PMFI）防止虚假抑制器的激活。实验表明，FDCU能有效拆解目标表示，在保持高通用效用的同时，提供针对再训练攻击的先进鲁棒性。 AI
影响 通过提供更持久的对抗再训练安全对齐能力，增强了LLM的安全性。
排序理由 这是一篇详细介绍LLM安全新技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
