研究人员发现了一种基于深度学习的图像到图像(I2I)网络中的新型安全漏洞,称为“I2I Backdoor”。这种攻击允许被破坏的I2I网络在干净的输入上正常运行,但在存在隐藏触发器时产生特定的、不当的输出。研究人员开发了一种使用通用对抗性扰动(UAPs)作为触发器的方法,并在训练期间采用多任务学习来提高攻击的有效性。此外,他们证明了这种I2I后门可以通过欺骗处理带有后门图像的模型来扩展到损害下游任务,如图像分类和对象检测。 AI
影响 这项研究突显了图像处理AI面临的新型安全威胁,可能影响AI系统在敏感应用中的可靠性。
排序理由 该集群包含一篇详细介绍深度学习模型新型攻击的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- deep learning
- I2I Backdoor
- image classification
- Image-to-Image (I2I) networks
- multi-task learning (MTL)
- object detection
- universal adversarial perturbation (UAP)
- Wenbo Jiang
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →