新框架统一了生成模型间的成员推断攻击

研究人员开发了一个统一的成员推断攻击（MIA）框架，该框架可应用于包括文本到文本、文本到图像和图像到文本在内的各种生成模型模态。这种新方法克服了先前将每种模态孤立处理的局限性。该框架利用了生成模型的输出分布可以近似其训练数据分布的观察结果，从而通过在共享嵌入空间中进行似然比测试来实现成员推断。在黑盒设置下的广泛实验表明，与现有的单类优化方法相比，该框架表现出优越的性能。 AI

影响 增强了对生成模型隐私风险的理解，并为审计其训练数据提供了新工具。

排序理由 一篇在arXiv上发表的学术论文，详细介绍了一种针对生成模型进行成员推断攻击的新框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• arXiv
• black-box setting
• fine-tuning
• Generative Models
• Image-to-text recognition for a sequence of images
• Membership Inference Attacks
• Partial Knowledge
• pre-training
• text-to-image model
• zero-knowledge proof

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →