实体
rag-redteam
rag-redteam
PulseAugur coverage of rag-redteam — every cluster mentioning rag-redteam across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
RAG系统存在通过可逆嵌入向量泄露敏感数据的风险
检索增强生成（RAG）系统的一个重大安全风险在于，嵌入向量有可能被逆向还原成原始文本，这一漏洞常常被忽视。与安全哈希不同，通过迭代编辑和嵌入比较，嵌入向量可以被重构回大部分源文本，正如近期研究所示。这意味着，如果原始嵌入向量暴露在API响应、日志或调试输出中，敏感信息就会在不以传统泄露的形式出现的情况下被泄露。为减轻此风险，开发人员应避免将原始嵌入返回给客户端，将其排除在日志之外，并对向量存储和调试端点实施严格的访问控制。
-
RAG 框架易受提示注入攻击，即使使用先进模型也无法幸免
对 LangChain、LlamaIndex 和 Haystack 等流行的检索增强生成 (RAG) 框架进行的安全性分析显示，这三个框架开箱即用都容易受到提示注入攻击。即使使用 GPT-5.1 等更先进的模型，这种漏洞依然存在，某些攻击甚至会加剧。识别出的核心问题不在于模型的智能，而在于 RAG 架构倾向于将检索到的文本视为可信上下文，而不是不可信数据。解决方案包括将检索到的文本视为数据，对其进行界定，并明确标记为模型不可信的数据，…