研究人员开发了DEFUSE,一个新颖的框架,旨在检测和防御针对自监督学习(SSL)编码器的后门攻击。与之前仅限于特定编码器类型或需要广泛先验知识的方法不同,DEFUSE提供了一种可泛化的方法。它利用贝叶斯后验推理和条件扩散生成模型来评估从编码器表示中重建图像的可能性,通过语义不一致性有效识别后门模型。 AI
影响 这项研究可以增强利用自监督学习的AI系统的安全性与可靠性,尤其是在敏感应用中。
排序理由 该集群包含一篇学术论文,详细介绍了一种防御AI模型后门攻击的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Bayesian posterior inference
- conditional diffusion generative model
- DEFUSE
- Hugging Face
- Self-supervised learning (SSL)
- vision-language encoders
- visual SSL encoders
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →