English(EN) Gradient-Free Privacy Leakage in Federated Language Models through Selective Weight Tampering

研究发现联邦语言模型易受隐私攻击

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-21 04:00

一篇新研究论文详细介绍了从联邦语言模型中提取用户私有数据的方法。研究强调，中间模型快照比最终训练模型更容易受到隐私泄露的影响。此外，恶意参与者可以通过篡改特定模型权重来利用这一点，从而导致大量数据重建和成员推理召回。 AI

影响强调了LLM联邦学习中潜在的隐私风险，需要更强的安全措施。

排序理由研究论文详细介绍了对联邦学习模型的新型攻击。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Md Rafi Ur Rashid, Vishnu Asutosh Dasu, Kang Gu, Najrin Sultana, Shagufta Mehnaz · 2026-07-21 04:00

通过选择性权重篡改在联邦语言模型中实现无梯度隐私泄露

arXiv:2310.16152v5 Announce Type: replace-cross Abstract: Federated learning (FL) has become a key component in various language modeling applications such as machine translation, next-word prediction, and medical record analysis. These applications are trained on datasets from m…