FaceScrub

新研究表明隐私防御可能提供虚假的安全感

一篇新研究论文揭示，当前评估模型逆向攻击（MIA）的方法严重低估了训练数据的隐私泄露。研究表明，当受到自适应攻击时，像MixUp和对抗性训练这样的常见防御措施，以及未防御的模型，泄露训练图像的比例远高于先前认为的水平。此外，这些重建的评估对用于外部分类器的特征基础很敏感，这表明优化和测量失败可能被误认为是隐私问题。研究还发现对抗性鲁棒性与重建泄露之间存在很强的相关性，并提出鲁棒性可以作为对重建攻击脆弱性的通用代理。