DINO-Swin-L

新型攻击破坏检测Transformer中的注意力机制

研究人员开发了一种针对检测Transformer（一类对安全关键应用中的目标检测至关重要的模型）的注意力机制的新型对抗性攻击。这种名为“Corrupting Attention”的新方法直接操纵编码器的注意力目标，导致检测性能显著下降。与以往专注于最终检测结果的攻击不同，这种方法通过破坏模型的注意力来扰乱其空间推理能力，导致在COCO等数据集上的平均精度均值（mAP）大幅下降，并证明了其在不同注意力公式上的有效性。