一篇新的研究论文探讨了知识纠缠如何影响大型语言模型（LLM）在遗忘（unlearning）后保留的信息。研究发现，在遗忘之前，纠缠程度更高的事实被回忆的频率更高。然而，不同的遗忘算法，特别是 WHP 和 GA+KL，对这种关系产生不同的影响，GA+KL 甚至会反转这种关系。研究人员开发了一个预测模型，通过在遗忘过程开始之前估计模型遗忘后的事实准确性来审计 LLM。 AI
影响 这项研究为审计 LLM 和理解数据在遗忘后如何持续存在提供了新方法，有望提高模型的安全性和可信度。
排序理由 关于 LLM 遗忘的研究论文发表在 arXiv 上。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
