Qingyue Wang

新的BadMoE攻击通过路由操纵针对混合专家LLM

研究人员开发了一种名为BadMoE的新方法来利用混合专家（MoE）大型语言模型的漏洞。该技术针对MoE架构的路由机制，该机制选择性地激活专家子集来处理输入。BadMoE识别利用不足的专家，并使用精心设计的触发器来操纵它们的激活，从而将预定义的后门行为注入模型。该攻击已在Mixtral、OLMoE和Deepseek等模型上针对分类和定向拒绝等各种任务进行了演示。