JanusPro

新型后门攻击针对多模态 AI 模型

研究人员发现了一种新型后门漏洞，称为 ToBAC，专门针对统一自回归模型 (UAM)。这些模型能够生成文本和图像 token，容易受到多模态后门攻击，其中微妙的触发器可以操纵不同模态的输出。ToBAC 攻击可以通过数据投毒或模型投毒来实现，导致有害或有偏见的内容生成。实验显示成功率很高，其中一项攻击在 Liquid 模型中影响了 55% 的品牌推广或意识形态内容生成，另一项通过数据投毒在 JanusPro 上取得了 63.1% 的成功率。