SAGE-RT

新框架揭示了 Agentic AI 系统中的重大风险

研究人员开发了一个新的框架，用于评估 Agentic AI 系统的安全风险，这些系统正越来越多地部署在生产环境中。这种名为 SAGE-RT 的黑盒方法使用七个风险域的分类法来自动生成对抗性场景。当在具有各种基础模型的 CrewAI 和 AutoGen 架构上进行测试时，该框架揭示了重大的治理和隐私风险，代理行为漏洞高达 85%。该系统的有效性得到了人类评估者和 LLM 法官的验证，证明了其在无需特权访问的情况下识别关键漏洞的能力。