研究人员开发了一种名为 Poison-then-Hide 的新型后门攻击,该攻击可以破坏预训练的视觉编码器。即使在干净的下游数据上对整个模型进行微调的情况下,这种攻击仍然有效,而之前的攻击在这种情况下常常失败。Poison-then-Hide 的工作原理是在基础编码器中植入一个休眠的后门,优化一个触发器,然后使用有针对性的遗忘技术来隐藏后门。该攻击在六个数据集和三种模型架构上取得了高达 97% 的成功率,突显了模型在这种复杂攻击面前的脆弱性,因为标准防御措施无法完全清除后门。 AI
影响 这项研究突显了视觉编码器微调过程中存在的重大漏洞,可能影响已部署的 AI 系统的安全性。
排序理由 该集群描述了一篇新颖的学术研究论文,详细介绍了一种针对机器学习模型的新型攻击。 [lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →