PulseAugur
中
实时 11:36:13
English(EN) Tracing Target Answers in Poisoned Retrieval Corpora via Token Influence Attribution

新的TRACE框架通过令牌影响检测RAG中毒攻击

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员开发了一个名为TRACE 的新框架，用于检测检索增强生成 (RAG) 系统中的中毒攻击。这些攻击通过将恶意文档插入检索语料库来操纵 RAG 模型，导致输出不正确。TRACE 通过分析令牌影响归因来识别这些中毒答案，提供了一种轻量级的解决方案，无需计算密集型的辅助分类器或 LLM 验证。实验表明，TRACE 在各种问答基准和 LLM 中能有效检测中毒并揭示攻击者指定的目标答案。 AI

影响 增强了检索增强生成系统的安全性和可靠性，这对于许多 AI 应用至关重要。

排序理由 该集群包含一篇研究论文，详细介绍了检测 AI 系统攻击的新框架。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新的TRACE框架通过令牌影响检测RAG中毒攻击

报道来源 [2]

  1. arXiv cs.CL TIER_1 English(EN) · Yan-Lun Chen, Pin-Yu Chen, Chia-Mu Yu, Ying-Dar Lin, Yu-Sung Wu, Wei-Bin Lee ·

    Tracing Target Answers in Poisoned Retrieval Corpora via Token Influence Attribution

    arXiv:2606.25721v1 Announce Type: cross Abstract: Retrieval-Augmented Generation (RAG) systems are vulnerable to corpus poisoning attacks that manipulate model outputs through malicious retrieved documents. Existing detection methods typically rely on auxiliary classifiers or add…

  2. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Wei-Bin Lee ·

    Tracing Target Answers in Poisoned Retrieval Corpora via Token Influence Attribution

    Retrieval-Augmented Generation (RAG) systems are vulnerable to corpus poisoning attacks that manipulate model outputs through malicious retrieved documents. Existing detection methods typically rely on auxiliary classifiers or additional LLM-based verification, introducing substa…

相关实体

相关话题