一篇新发布的arXiv论文详细介绍了视觉后门如何在视觉语言模型(VLMs)的On-Policy Distillation(OPD)中传播。与最初的假设相反,OPD本身并不能抵抗后门传播,因为一旦达到关键的投毒阈值,后门就会迅速出现。传播是由教师模型异常概率质量的累积驱动的,而不是明确的恶意响应。研究人员开发了一种新颖的触发器设计,可以在不需要显式触发器注入的情况下促进视觉后门传播,突显了OPD中潜在的安全风险。 AI
影响 强调了视觉语言模型训练中一个微妙的安全风险,该风险可能被利用。
排序理由 学术论文,详细介绍了AI模型训练中的一个安全漏洞。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- On-Policy Distillation
- ScienceCast
- vision-language model
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →