PlanFlip

新的PlanFlip框架利用了多智能体LLM系统中的漏洞

研究人员开发了一个名为PlanFlip的新框架，通过针对规划阶段来利用多智能体LLM系统中的漏洞。该框架通过利用Planner智能体引入了四种类型的提示注入攻击，这些攻击会破坏子任务。研究发现，像GPT-5这样能力更强的模型更容易受到攻击，而像DeepSeek-R1这样具有推理增强的模型则表现出抵抗力。研究还强调了模型多样性在多智能体系统安全中的重要性，因为同质化管道无法防御这些规划阶段的攻击。