PulseAugur
中
实时 09:25:08

新型攻击破坏检测Transformer中的注意力机制

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种针对检测Transformer（一类对安全关键应用中的目标检测至关重要的模型）的注意力机制的新型对抗性攻击。这种名为“Corrupting Attention”的新方法直接操纵编码器的注意力目标，导致检测性能显著下降。与以往专注于最终检测结果的攻击不同，这种方法通过破坏模型的注意力来扰乱其空间推理能力，导致在COCO等数据集上的平均精度均值（mAP）大幅下降，并证明了其在不同注意力公式上的有效性。 AI

影响 这项研究揭示了目标检测Transformer的一个新漏洞，可能影响关键应用中AI系统的安全性和可靠性。

排序理由 学术论文，详细介绍了一种针对AI模型的新型对抗性攻击方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新型攻击破坏检测Transformer中的注意力机制

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Ridma Jayasundara, Shaheer Mohamed, Tharindu Fernando, Harshala Gammulle, Basura Fernando, Sanka Rasnayake, A V Subramanyam, Sridha Sridharan, Clinton Fookes ·

    腐蚀注意力：基于规避的对抗性攻击在检测 Transformer 的编码器注意力上

    arXiv:2608.06674v1 Announce Type: cross Abstract: Adversarial vulnerabilities remain a major concern for the safe deployment of neural networks, particularly in object detection, a core task embedded in many safety-critical systems. Detection transformers have emerged as leading …

相关实体

相关话题