English(EN) TRACE: Data-Free Text Reconstruction Attacks against Approximate Unlearning in LLMs

新的TRACE框架可从遗忘的模型快照中重建大型语言模型的训练数据

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-27 04:00

研究人员开发了一个名为TRACE的新框架，即使在应用了近似遗忘方法后，也能从大型语言模型（LLMs）中重建训练数据。这可以通过分析遗忘前后的模型快照之间的差异来实现，这些差异充当了侧信道。TRACE识别候选令牌并使用对比评分机制来恢复数据样本，这表明当前遗忘部署中存在重大的隐私风险，并强调了需要更好的防御措施来防止参数差异泄露。 AI

影响凸显了大型语言模型遗忘中的重大隐私风险，可能影响人工智能部署中数据隐私的管理方式。

排序理由这是一篇详细介绍新框架及其实验结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 8 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 这是一篇详细介绍新框架及其实验结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Mengying Zhang, Derui Wang, Ibrahim Khalil, Bowen Liu, Xiaoyu Xia, Minhui Xue · 2026-10-27 04:00

TRACE：针对大型语言模型近似遗忘的数据无关文本重建攻击

arXiv:2610.31995v1 Announce Type: cross Abstract: As large language models (LLMs) face growing demands for data removal driven by regulatory compliance, copyright concerns, and privacy protection, approximate unlearning has emerged as a practical alternative to expensive full ret…

本文如何被排名

报道来源 [1]

TRACE：针对大型语言模型近似遗忘的数据无关文本重建攻击

相关实体

相关话题