研究人员开发了ColluSkill，一个旨在通过组合多个看似无害的技能来识别基于LLM的代理系统漏洞的新框架。该方法利用了当前安全措施的不足，这些措施主要检查单个技能而非它们的组合执行。为了应对这一挑战，提出了一种名为ChainGuard的防御机制，它分析技能组合和上下文依赖关系，以在工作流级别检测新兴威胁。实验表明，ColluSkill在绕过现有扫描器方面取得了很高的成功率，而ChainGuard则显著降低了对良性工作流的成功攻击。 AI
影响 突显了LLM代理中一类新的漏洞，需要推进工作流级别的安全分析。
排序理由 这是一篇研究论文，详细介绍了LLM代理系统的新攻击框架和相应的防御机制。 [lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
