新的TriShieldRAG框架保护RAG系统免受知识污染

研究人员开发了TriShieldRAG，一个旨在保护检索增强生成（RAG）系统免受知识污染的新型框架。该系统采用三阶段防御机制：Ingest Guard用于检测被污染的文档，Retrieval Scorer用于评估文档的可信度，以及Cross-LLM Consensus阶段，该阶段使用多个语言模型来验证检索到的信息。在针对非自适应攻击者的测试中，TriShieldRAG将攻击成功率从约91%显著降低到13%，同时保持了对良性查询的准确性。 AI

影响 增强了RAG系统的可信度，可能使其在敏感应用中得到更广泛的应用。

排序理由 该集群描述了一篇关于AI安全技术框架的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• Claude
• Llama 3.2
• Mistral Small
• PoisonedRAG
• Retrieval-Augmented Generation
• Susil Kumar Mohanty
• TriShieldRAG

• 论文
• 安全
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →