English(EN) CleanBase: Detecting Malicious Documents in RAG Knowledge Databases

CleanBase方法检测RAG知识库中的恶意文档

作者 PulseAugur 编辑部 · [2 个来源] · 2026-05-01 06:51

研究人员开发了CleanBase，一种识别检索增强生成（RAG）知识库中恶意文档的新颖方法。该系统利用为提示注入攻击精心制作的恶意文档之间通常存在的高度语义相似性。CleanBase构建一个相似性图，其中形成团块的文档被标记为恶意，从而增强RAG系统的安全性和完整性。 AI

影响通过识别恶意文档来检测和缓解提示注入攻击，从而增强RAG系统的安全性。

排序理由这是一篇详细介绍检测RAG系统中恶意文档新方法的学术论文。

AI 生成摘要 · Google Gemini · 来自 2 个来源。我们如何撰写摘要 →

报道来源 [2]

arXiv cs.LG TIER_1 English(EN) · Weifei Jin, Xilong Wang, Wei Zou, Jinyuan Jia, Neil Gong · 2026-05-04 04:00

CleanBase：检测RAG知识数据库中的恶意文档

arXiv:2605.00460v1 Announce Type: cross Abstract: Retrieval-augmented generation (RAG) is vulnerable to prompt injection attacks, in which an adversary inserts malicious documents containing carefully crafted injected prompts into the knowledge database. When a user issues a ques…
arXiv cs.LG TIER_1 English(EN) · Neil Gong · 2026-05-01 06:51

CleanBase：检测RAG知识数据库中的恶意文档

Retrieval-augmented generation (RAG) is vulnerable to prompt injection attacks, in which an adversary inserts malicious documents containing carefully crafted injected prompts into the knowledge database. When a user issues a question targeted by the attack, the RAG system may re…