scalpel

新SCALPEL方法实现选择性AI模型遗忘

研究人员开发了SCALPEL，一种新颖的对比稀疏自编码器，用于选择性机器学习遗忘。该方法旨在从AI模型中移除特定信息，例如GDPR下的个人数据，同时保留模型的整体能力。SCALPEL解决了现有提取方法中阻碍选择性的能量偏差问题，理论上可以促进目标特定特征并控制背景知识扰动。在Qwen、Llama和Gemma模型上的实验结果表明，SCALPEL的性能优于NMF和SAE等标准技术，并与Gradient Difference和RMU等方法具有竞争力。