研究人员开发了一种名为透视不变攻击(PIA)的新方法,以增强深度神经网络中对抗样本的可迁移性。与使用有限局部变换的先前方法不同,PIA采用多自由度顶点采样策略来覆盖从简单平移到复杂透视映射的透视变换层级。这种方法生成几何上多样化的变体,减少了对抗性扰动对代理模型的过拟合,并提高了跨模型的可迁移性。进一步的扩展PIA-Mix将透视变换与辅助方法相结合,以获得更大的效果,在各种网络架构和多模态大型语言模型上都优于现有的最先进攻击。 AI
影响 这项研究可能为抵御人工智能模型的对抗性攻击提供更强大的防御措施,特别是那些整合了多模态数据的模型。
排序理由 学术论文,详细介绍了深度神经网络对抗攻击的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- adversarial example
- deep neural network
- Multimodal Large Language Models
- Perspective-Invariant Attack
- PIA-Mix
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →