研究人员开发了一种新颖的攻击流程,可以从参与联邦学习的客户端中提取精确的训练数据。该方法解决了先前梯度反演攻击的局限性,这些攻击在诸如FedAvg之类的算法中,由于客户端贡献的纠缠而难以恢复精确的文本数据。新的流程迭代地减去恢复的句子梯度,从而实现了100%精度的精确句子恢复,并在先前方法完全失败的挑战性场景中恢复了高达80.2%的客户端句子。 AI
影响 这项研究突显了联邦学习中重大的隐私风险,可能影响分布式AI训练的采用和安全协议。
排序理由 该集群包含一篇详细介绍新攻击方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →