新的CloakDiff框架为视觉-语言模型提供可逆的隐私保护

研究人员开发了CloakDiff，一个旨在保护用户隐私免受视觉-语言模型（VLM）的文本查询攻击的新型框架。与先前在多模态设置中无效或通过高频噪声降低图像质量的方法不同，CloakDiff生成的不可感知对抗性示例可以被逆转以恢复原始图像。该框架结合了基于扩散的对抗性编辑和可逆网络，并操纵潜在的交叉注意力图，以确保在不同模型和提示下的有效性，同时保持视觉结构。实验表明，CloakDiff在保持高视觉保真度和可逆性的同时，提供了强大的多模态隐私保护。 AI

影响 这项研究引入了一种增强视觉-语言模型隐私的新方法，可能影响敏感数据在多模态AI应用中的处理和保护方式。

排序理由 该集群包含一篇详细介绍AI模型隐私保护新方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• CloakDiff
• CORE Recommender
• DagsHub
• EDM Heuristic Sampling
• Gotit.pub
• Hugging Face
• ScienceCast
• Vision-Language Models

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →