LLM-RedKit

新的LLM-RedKit工具针对具身提示注入漏洞

一款名为LLM-RedKit的新型开源工具已被开发出来，以应对针对AI代理的提示注入攻击不断演变的威胁。与之前专注于静态提示的工具不同，LLM-RedKit专门测试具身提示，这些提示可以通过将恶意命令伪装成常规任务来欺骗模型执行意外操作，例如发送电子邮件或删除用户。该工具支持各种代理框架，并提供详细报告，将发现与OWASP LLM Top 10和MITRE ATLAS等既定安全框架进行映射。