研究人员开发了一种名为提示优化参数抖动（POPS）的新型对抗策略，该策略可以从多模态大语言模型（MLLM）中恢复所谓的未学习的多模态知识。该方法旨在解决多模态机器遗忘（MMU）技术中的漏洞，这些技术旨在删除私人信息。POPS通过优化提示来引发MLLM中潜在的私人示例，然后使用这些合成的输出来微调模型，从而恢复已擦除的敏感信息。实验表明，即使是从已经过遗忘过程的模型中，POPS也能显著恢复信息，这凸显了当前MMU算法的基本弱点。 AI
影响 揭示了当前AI遗忘技术的根本性漏洞，可能影响多模态模型的隐私和版权保护。
排序理由 该集群包含一篇研究论文，详细介绍了一种从多模态AI模型中恢复已遗忘数据的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
