ReadSecBench

提示注入攻击利用 GitHub README 来欺骗 AI 代理

一种称为提示注入的安全漏洞已被发现，其中恶意指令可以隐藏在 GitHub 存储库的 README 文件中。当 Claude Code、GPT-4 和 Gemini 等 AI 代理获取这些指令时，它们可能会被欺骗，使其相信虚假信息，例如更改日期，进而影响其后续操作。研究表明，这些嵌入式命令非常有效，即使隐藏在几个链接后面，成功率也很高，并且人类审查者很难检测到。