Multi-modality Machine Unlearning

新的POPS方法从MLLM中恢复未学习的私有数据

研究人员开发了一种名为提示优化参数抖动（POPS）的新对抗策略，用于从多模态大型语言模型（MLLM）中恢复未学习的多模态知识。该方法旨在利用现有的多模态机器遗忘（MMU）技术的漏洞，这些技术旨在删除私有信息。POPS通过优化提示来引发MLLM中潜在的私有示例，然后使用这些合成的输出来微调模型，从而揭示敏感信息。实验表明，POPS可以显著恢复被擦除的敏感数据，突显了当前MMU算法的基本弱点。