ColluSkill

新框架ColluSkill利用LLM代理技能组合进行攻击

研究人员开发了ColluSkill，一个旨在通过组合多个看似无害的技能来识别基于LLM的代理系统漏洞的新框架。该方法利用了当前安全措施的不足，这些措施主要检查单个技能而非它们的组合执行。为了应对这一挑战，提出了一种名为ChainGuard的防御机制，它分析技能组合和上下文依赖关系，以在工作流级别检测新兴威胁。实验表明，ColluSkill在绕过现有扫描器方面取得了很高的成功率，而ChainGuard则显著降低了对良性工作流的成功攻击。