PulseAugur
中
实时 09:08:42
English(EN) Adversarial Decoys: Misdirecting Attention-Based Defenses in ViT

新的对抗性诱饵技术可绕过Vision Transformer防御机制

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员开发了一种名为对抗性诱饵的新方法，用于绕过Vision Transformers (ViTs) 中基于注意力的防御机制。这些诱饵是独立优化的图像块，可以将注意力机制（以及随之而来的防御机制）从实际的对抗性区域转移开。该技术将误分类目标与防御规避解耦，使其具有攻击无关性，并易于与现有的对抗性补丁攻击集成。在ImageNet上的实验表明，诱饵可以在保持显著攻击有效性的同时有效地误导注意力分数，突显了使用注意力幅度检测对抗性相关性的局限性。 AI

影响 这项研究突显了当前Vision Transformer防御机制的一个漏洞，可能需要新的方法来确保模型在面对对抗性攻击时的鲁棒性。

排序理由 该集群包含一篇详细介绍攻击AI模型新方法的论文。

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新的对抗性诱饵技术可绕过Vision Transformer防御机制

报道来源 [2]

  1. arXiv cs.AI TIER_1 English(EN) · Giulia Marchiori Pietrosanti, Giulio Rossolini, Giorgio Buttazzo ·

    Adversarial Decoys: Misdirecting Attention-Based Defenses in ViT

    arXiv:2607.07922v1 Announce Type: cross Abstract: Vision Transformers (ViTs) remain vulnerable to localized adversarial attacks, e.g., adversarial patches, while recent test-time defenses mitigate them by suppressing image tokens with abnormally high attention scores. These defen…

  2. arXiv cs.CV TIER_1 English(EN) · Giorgio Buttazzo ·

    Adversarial Decoys: Misdirecting Attention-Based Defenses in ViT

    Vision Transformers (ViTs) remain vulnerable to localized adversarial attacks, e.g., adversarial patches, while recent test-time defenses mitigate them by suppressing image tokens with abnormally high attention scores. These defenses exploit a strong coupling between attention an…

相关实体

相关话题