PulseAugur
中
实时 20:43:05
English(EN) Privacy Leakage via Output Label Space and Differentially Private Continual Learning

研究人员发现输出标签空间是持续学习模型中的隐私泄露点

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员发现了一种新的机器学习模型隐私漏洞，该漏洞源于输出标签空间而非训练数据本身。这种侧信道在标签空间随时间演变的持续学习场景中尤为重要。为解决此问题，该论文提出了持续学习的差分隐私形式化，并引入了两种缓解泄露的方法：将差分隐私应用于标签发布或利用大型公共标签空间。在Split-CIFAR-100和Split-ImageNet-R上的实验表明，与现有方法相比，准确性和隐私保证均得到提高。 AI

影响 为机器学习模型（尤其是在持续学习环境中）引入了新的隐私攻击向量和缓解策略。

排序理由 学术论文，详细介绍了机器学习模型的新隐私漏洞和缓解技术。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究人员发现输出标签空间是持续学习模型中的隐私泄露点

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Marlon Tobaben, Talal Alrawajfeh, Marcus Klasson, Mikko Heikkil\"a, Arno Solin, Antti Honkela ·

    通过输出标签空间和差分隐私持续学习进行隐私泄露

    arXiv:2411.04680v5 Announce Type: replace Abstract: Differential privacy (DP) is a formal privacy framework that enables training machine learning (ML) models while protecting individuals' data. As pointed out by prior work, ML models are part of larger systems, which can lead to…

相关实体

相关话题