实体
Greshake et al.
Greshake et al.
PulseAugur coverage of Greshake et al. — every cluster mentioning Greshake et al. across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
RAG 中毒成为针对大语言模型知识库的供应链攻击
研究人员发现了一种名为 RAG 中毒的新型攻击，它在索引阶段而非查询时（如提示注入）攻击检索增强生成（RAG）系统的知识库。此方法允许攻击者将恶意内容嵌入到系统的数据库中，例如 Microsoft 365 Copilot，从而导致广泛的错误信息或操纵。研究表明，即使少量被投毒的文档也会对大型知识库产生重大影响，而现有的防御措施不足以阻止这些攻击。
-
间接提示注入成为关键LLM漏洞
间接提示注入是一种漏洞，其中恶意指令隐藏在AI代理获取的数据中，已被确定为关键威胁。由于指令和数据共享相同的令牌空间，模型无法区分，因此这种攻击向量绕过了LLM的防御。OWASP将此列为2025年顶级LLM应用程序漏洞，并指出尚不清楚万无一失的预防方法，需要架构解决方案。