English(EN) Unlearning by Extrapolating a Shrink-and-Heal Lookahead

新的 SHIFT 方法通过收缩和重新学习来改进 LLM 遗忘

作者 PulseAugur 编辑部 · [1 个来源] · 2026-11-04 05:00

提出了一种名为 SHIFT 的新遗忘方法，旨在让大型语言模型在无需完全重新训练的情况下忘记特定数据。与专注于抑制似然性的现有方法不同，SHIFT 通过将微调后的模型收缩到其微调前的权重，然后短暂地重新学习保留的数据，来估计朝向 Oracle 模型的方向。这个过程有效地消除了遗忘特定数据的贡献。在 OpenUnlearning 协议中，SHIFT 的性能优于其他十一种基线，实现了与 Oracle 模型更接近的一致性，并保留了更多的保留知识，尤其是在较大的优化预算下。 AI

影响 SHIFT 改进的遗忘能力可以增强 AI 系统中的数据隐私和模型控制。

排序理由学术论文，详细介绍了一种新的 LLM 遗忘方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 39 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 学术论文，详细介绍了一种新的 LLM 遗忘方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Hoang-Chau Luong, Lingwei Chen · 2026-11-04 05:00

通过外推收缩-修复前瞻实现遗忘

arXiv:2611.00374v1 Announce Type: cross Abstract: Unlearning aims to make a large language model behave like one retrained without its forget set. Prevailing likelihood-suppression objectives, however, lack an explicit forgetting target: they continually reward lower forget-set l…

本文如何被排名

报道来源 [1]

通过外推收缩-修复前瞻实现遗忘

相关实体

相关话题