Vision MoE

新型后门攻击利用视觉 MoE 容量溢出

研究人员发现了一种针对视觉 Transformer 的混合专家（MoE）架构的新漏洞，称为“容量溢出”。该漏洞源于用于管理专家处理预算的依赖于批次的 token 分派机制。所提出的攻击通过在早期 MoE 层注入后门，并在更深的层注入中和器来利用这一点，而中和器在部署规模的批次大小下会被 token 溢出禁用。实验表明，该攻击在规避现有安全审计的同时，成功率很高。