研究人员开发了持续正交投影（COP）方法，这是一种无需完全重新训练即可从大型语言模型（LLM）中遗忘数据的全新方法。现有方法在顺序遗忘方面存在困难，导致数据遗忘和模型效用均下降。COP通过将更新投影到与先前遗忘数据正交的子空间上来解决此问题，确保每次删除都不会干扰先前的遗忘。在TOFU和RWKU基准上的实验表明，COP在多次遗忘请求中能有效保留模型效用并增强遗忘效果。 AI
影响 这项研究为在需要持续遗忘的场景中保持模型效用和有效的数据删除提供了潜在解决方案，这对于隐私和合规至关重要。
排序理由 该集群描述了一篇关于LLM遗忘新方法的创新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
