PulseAugur
中
实时 16:05:05
English(EN) Coverage Is Not Containment: A Fundamental Limit of Admission-Time Defenses Against Coordinated Poisoning of Vector Retrieval

新研究揭示了RAG防御系统在抵御协调投毒攻击方面的基本局限性

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员展示了当前针对检索增强生成（RAG）中使用的向量检索系统的协调投毒攻击的防御措施存在根本性局限。这些旨在过滤恶意文档的准入时防御措施，可以通过对手注入少量看似无害的文档来规避。这些文档结合起来，可以有效地劫持目标查询，迫使RAG系统输出攻击者捏造的信息。研究表明，这些攻击并非理论上的，在真实世界的管道中成功率高达88%，并且现有的分类器无法区分恶意和合法的利基上传。 AI

影响 凸显了RAG系统中的关键安全漏洞，需要转向检索时防御以实现稳健保护。

排序理由 该集群包含一篇研究论文，详细介绍了AI系统安全漏洞的新发现。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新研究揭示了RAG防御系统在抵御协调投毒攻击方面的基本局限性

报道来源 [2]

  1. arXiv cs.CL TIER_1 English(EN) · Prashant Kumar Pathak, Tarun Kumar Sharma ·

    覆盖而非遏制：向量检索协同投毒的准入时防御的基本限制

    arXiv:2608.16044v1 Announce Type: cross Abstract: Retrieval-augmented generation (RAG) answers a question by retrieving passages from a vector store and trusting them as context, so anyone who can add documents can try to steer the answer. A recent, appealing defense filters pois…

  2. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Tarun Kumar Sharma ·

    覆盖并非遏制：对协调式向量检索投毒的准入时防御的基本限制

    Retrieval-augmented generation (RAG) answers a question by retrieving passages from a vector store and trusting them as context, so anyone who can add documents can try to steer the answer. A recent, appealing defense filters poisoning at ingestion, rejecting any document that be…

相关实体

相关话题