Prompt extraction

新工具测试 LLM 系统提示对 5 种攻击类型的抵御能力

一位开发者创建了一个名为“提示注入测试器”的工具，用于评估 LLM 系统提示在面对各种攻击向量时的抵御能力。该工具在本地运行，以保护敏感提示，并测试五类攻击：指令覆盖、提示提取、分隔符/转义、角色扮演和间接注入。开发者强调间接注入，通常通过检索增强生成 (RAG) 或浏览工具实现，是一种特别令人担忧的漏洞，可以绕过看似强大的系统提示。