OWASP Incubator

新的AI代理安全工具验证真实世界行为，而非仅仅报告

一类新的开源工具正在出现，以解决AI代理报告的操作与其实际操作之间的差距，特别是在安全漏洞方面。这些工具侧重于验证真实世界的副作用，而不仅仅是分析代理的输出。Promptfoo被强调为一个成熟的部署前红队测试工具，而OWASP Agent Security Regression Harness为CI管道提供了可执行的回归测试，检查代理跟踪中的拒绝工具调用和目标完整性。然而，这两种工具主要分析代理跟踪，可能无法检测绕过这些跟踪机制的攻击。