Split-ImageNet-R

研究人员发现输出标签空间是持续学习模型中的隐私泄露点

研究人员发现了一种新的机器学习模型隐私漏洞，该漏洞源于输出标签空间而非训练数据本身。这种侧信道在标签空间随时间演变的持续学习场景中尤为重要。为解决此问题，该论文提出了持续学习的差分隐私形式化，并引入了两种缓解泄露的方法：将差分隐私应用于标签发布或利用大型公共标签空间。在Split-CIFAR-100和Split-ImageNet-R上的实验表明，与现有方法相比，准确性和隐私保证均得到提高。