实体
RAG Poisoning
RAG Poisoning
PulseAugur coverage of RAG Poisoning — every cluster mentioning RAG Poisoning across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
RAG 中毒成为针对大语言模型知识库的供应链攻击
研究人员发现了一种名为 RAG 中毒的新型攻击，它在索引阶段而非查询时（如提示注入）攻击检索增强生成（RAG）系统的知识库。此方法允许攻击者将恶意内容嵌入到系统的数据库中，例如 Microsoft 365 Copilot，从而导致广泛的错误信息或操纵。研究表明，即使少量被投毒的文档也会对大型知识库产生重大影响，而现有的防御措施不足以阻止这些攻击。
-
AI 代理面临新的安全威胁：提示注入和 RAG 投毒
本文讨论了 AI 代理的纵深防御策略，重点是防范提示注入、RAG 投毒和未经授权的工具执行。它强调了 MLOps 中稳健安全措施的重要性，以保护 AI 系统免受恶意输入和行为的侵害。