rag-redteam

RAG 框架易受提示注入攻击，即使使用先进模型也无法幸免

对 LangChain、LlamaIndex 和 Haystack 等流行的检索增强生成 (RAG) 框架进行的安全性分析显示，这三个框架开箱即用都容易受到提示注入攻击。即使使用 GPT-5.1 等更先进的模型，这种漏洞依然存在，某些攻击甚至会加剧。识别出的核心问题不在于模型的智能，而在于 RAG 架构倾向于将检索到的文本视为可信上下文，而不是不可信数据。解决方案包括将检索到的文本视为数据，对其进行界定，并明确标记为模型不可信的数据，…