一项新的研究论文揭示,当前评估模型逆向攻击(MIA)的方法严重低估了训练数据的隐私泄露。研究表明,像MixUp和对抗性训练这样的常见防御措施,以及未受保护的模型,在FaceScrub等数据集上泄露训练图像的比例远高于以往的预期。研究还强调,用于评估的外部分类器的选择会影响测量的泄露程度,并表明对抗性鲁棒性可能作为对重构攻击漏洞的广泛指标。 AI
影响 强调了当前AI模型隐私防御的潜在漏洞,表明需要更鲁棒的评估方法。
排序理由 在arXiv上发表的研究论文,详细介绍了关于模型逆向攻击和隐私的新发现。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →