研究人员开发了一个名为PlanFlip的新框架，通过针对规划阶段来利用多智能体LLM系统中的漏洞。该框架通过利用Planner智能体引入了四种类型的提示注入攻击，这些攻击会破坏子任务。研究发现，像GPT-5这样能力更强的模型更容易受到攻击，而像DeepSeek-R1这样具有推理增强的模型则表现出抵抗力。研究还强调了模型多样性在多智能体系统安全中的重要性，因为同质化管道无法防御这些规划阶段的攻击。 AI
影响 突出了多智能体LLM系统中的关键安全漏洞，并提出多样性作为一种防御机制。
排序理由 详细介绍LLM系统新攻击框架和防御机制的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
