PulseAugur
中
实时 07:31:56
English(EN) RAGSieve: Self-Referenced Local Contrast for Knowledge-Poison Detection in Retrieval-Augmented Generation

新的RAGSieve框架检测AI生成中的知识投毒

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了RAGSieve，一个旨在检测检索增强生成（RAG）系统中知识投毒的新型框架。与依赖可信语料库或特定攻击伪影的现有方法不同，RAGSieve使用自引用对比学习。其组件RAGSieve-Query（RSQ）和RAGSieve-Graph（RSG）分别分析查询局部和语料库局部数据，以识别促进虚假声明的注入文档。实验表明，RAGSieve在检测投毒数据方面显著优于先前的方法，同时最大限度地减少了合法文档的移除，在摄取和查询阶段都提供了实际保护。 AI

影响 通过提供一种检测恶意数据注入的强大方法，增强了AI系统的安全性和可靠性。

排序理由 关于检测AI知识投毒新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.IR (Information Retrieval) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的RAGSieve框架检测AI生成中的知识投毒

报道来源 [1]

  1. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Yoshua Y. Li ·

    RAGSieve：用于检索增强生成中知识中毒检测的自引用局部对比

    Retrieval-augmented generation treats an external corpus as inference evidence, allowing injected documents to promote attacker-chosen claims. Existing detectors depend on trusted references, specific attack artifacts, or global thresholds sensitive to corpus topology. We present…

相关实体

相关话题