PulseAugur
中
实时 09:58:19
English(EN) Inference-Time Machine Unlearning via Gated Activation Redirection

新的GUARD-IT方法在不改变参数的情况下在推理时遗忘大型语言模型

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为GUARD-IT的新方法，用于推理时机器遗忘，旨在在不改变大型语言模型参数的情况下，移除特定数据对模型的影响。该技术使用依赖于输入的激活引导，作为残差流中的范数保持旋转，以在推理过程中修改模型行为。在TOFU和MUSE数据集上的实验表明，GUARD-IT在保持模型效用和抑制记忆方面，性能与基于梯度的方法相当或更优，同时在模型量化下仍然有效，并支持持续遗忘。 AI

影响 为管理大型语言模型中的数据隐私和版权问题提供了一种更有效、更鲁棒的方法。

排序理由 详细介绍一种新颖机器遗忘技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的GUARD-IT方法在不改变参数的情况下在推理时遗忘大型语言模型

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Vin\'icius Conte Turani, Ot\'avio Parraga, Jo\~ao Vitor Boer Abitante, Kristen K. Arguello, Joana Pasquali, Ramiro N. Barros, Flavio du Pin Calmon, Christian Mattjie, Rodrigo C. Barros, Lucas S. Kupssinsk\"u ·

    通过门控激活重定向实现推理时机器遗忘

    arXiv:2605.12765v3 Announce Type: replace Abstract: Large Language Models memorize vast amounts of training data, raising concerns regarding privacy, copyright infringement, and safety. Machine unlearning seeks to remove the influence of a targeted forget set while preserving mod…

相关实体

相关话题