English(EN) RAG Poisoning Is a Supply Chain Attack, Not a Prompt Injection Variant

RAG 中毒成为针对大语言模型知识库的供应链攻击

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-06 05:23

研究人员发现了一种名为 RAG 中毒的新型攻击，它在索引阶段而非查询时（如提示注入）攻击检索增强生成（RAG）系统的知识库。此方法允许攻击者将恶意内容嵌入到系统的数据库中，例如 Microsoft 365 Copilot，从而导致广泛的错误信息或操纵。研究表明，即使少量被投毒的文档也会对大型知识库产生重大影响，而现有的防御措施不足以阻止这些攻击。 AI

影响突显了 RAG 系统一个关键的新漏洞，需要超越提示注入防御的新安全范式。

排序理由该项目详细介绍了一种针对大语言模型系统的新型安全漏洞和攻击向量，并有多个研究论文和演示支持。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 46 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该项目详细介绍了一种针对大语言模型系统的新型安全漏洞和攻击向量，并有多个研究论文和演示支持。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, product; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Davi · 2026-09-06 05:23

RAG 投毒是一种供应链攻击，而非提示注入的变体

<p>In August 2024, researchers demonstrated a silent attack against Microsoft 365 Copilot. Any user with write access to an indexed SharePoint folder could alter the system's answers across the entire organization. No changes to the model, system prompt, or any runtime component …

本文如何被排名

报道来源 [1]

RAG 投毒是一种供应链攻击，而非提示注入的变体

相关实体

相关话题