recovery attacks

新基准\unlearning 测试 LLM 知识移除在复杂推理和攻击下的表现

研究人员引入了一个名为 \unlearning 的新基准，用于评估大型语言模型（LLM）的机器学习遗忘技术的有效性。该基准通过关注多跳推理路径（可以揭示更细微的知识泄露）并测试遗忘技术在对抗恢复攻击时的鲁棒性，来解决现有方法的局限性。使用 \unlearning 在三个模型和六种遗忘方法上进行的实验表明，当前技术在多跳推理和恢复攻击方面都存在漏洞，这凸显了对更鲁棒的遗忘策略的需求。