研究人员引入了GRIP(Geometric Routing Invariance Preservation),一个新颖的框架,用于在混合专家(MoE)大型语言模型中实现算法无关的机器学习遗忘。与之前仅仅将查询重定向到专家之外以避免删除知识的方法不同,GRIP对路由器更新施加了几何约束。这种方法将遗忘压力导向专家参数本身,确保知识被真正删除。实验表明,GRIP显著提高了路由稳定性,增强了准确性,并大大降低了对手恢复敏感信息的能力。 AI
影响 通过实现更强大的遗忘技术,增强了大型语言模型的安全性和隐私性。
排序理由 该集群包含一篇详细介绍机器学习遗忘新算法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →