agentic auditing

新的 PI-Hunter 工具自动化了针对 LLM 代理漏洞的红队测试

研究人员开发了 PI-Hunter，这是一个自动化框架，旨在主动识别和定位大型语言模型 (LLM) 代理中的提示注入漏洞。该系统通过反馈驱动的探索构建真实的测试用例，促使代理揭示来自外部源的隐藏恶意指令。实验表明，与现有的红队测试方法相比，PI-Hunter 显著提高了漏洞暴露和攻击面覆盖率，即使面对当前的提示注入防御措施也是如此。