PulseAugur
中
实时 07:30:36
English(EN) Test-Time Backdoor Detection for Object Detection Models

新的TRACE方法可检测目标检测模型中的后门

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为TRACE（TRAnsformation Consistency Evaluation）的新方法，用于在测试时检测目标检测模型中的中毒样本。该技术解决了目标检测带来的独特挑战，因为目前的防御措施不足以应对可能导致“幽灵”对象或使对象消失的攻击。TRACE利用了这样一个观察结果：与干净样本相比，中毒样本在不同背景和不同焦点信息下表现出更一致的检测结果。通过评估对象置信度方差的变换一致性，TRACE提供了黑盒、通用的后门检测，并且在AUROC方面比现有方法提高了30%，同时还证明了其对自适应攻击的抵抗力。 AI

影响 通过提供一种检测和缓解目标检测模型中后门攻击的新颖方法，增强了AI系统的安全性。

排序理由 学术论文，详细介绍了检测AI模型中安全漏洞的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的TRACE方法可检测目标检测模型中的后门

报道来源 [1]

  1. arXiv cs.CV TIER_1 English(EN) · Hangtao Zhang, Yichen Wang, Shihui Yan, Chenyu Zhu, Ziqi Zhou, Linshan Hou, Shengshan Hu, Minghui Li, Yanjun Zhang, Leo Yu Zhang ·

    面向目标检测模型的测试时后门检测

    arXiv:2503.15293v2 Announce Type: replace Abstract: Object detection models are vulnerable to backdoor attacks, where attackers poison a small subset of training samples by embedding a predefined trigger to manipulate prediction. Detecting poisoned samples (i.e., those containing…

相关实体

相关话题