SeungBum Ha

AI遗忘方法留下可检测的痕迹和漏洞

研究人员正在探索大型语言模型中机器学习遗忘的复杂性和漏洞。一项研究引入了一个基准来评估事实显著性和微调阶段如何影响遗忘过程，结果表明微调能产生更稳定的遗忘。另一篇论文指出，遗忘会在模型输出和内部表示中留下可检测的痕迹，这些痕迹可被利用来逆向工程被遗忘的信息。第三项研究解决了“过度遗忘”问题，该问题会损害保留的数据，并提出了一种方法来应对这些盲点和再学习攻击。