研究人员开发了DetectViT,一种在推理时检测视觉Transformer(ViTs)中后门的新颖方法。该方法分析头间注意力差异,识别两种劫持类型:完全注意力重叠和部分注意力分布方差。DetectViT无需训练数据或模型输出即可运行,以最小的计算开销实现了高检测率。 AI
影响 通过提供一种检测视觉Transformer中后门攻击的新方法,增强了多模态模型的安全性。
排序理由 该集群包含一篇学术论文,详细介绍了检测AI模型安全漏洞的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- BadCLIP
- Data Efficient Image Transformers
- DetectViT
- Llava
- multimodal models
- Vision Transformers
- Vits
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →