PulseAugur
中
实时 10:57:01
English(EN) Combating Knowledge Corruption in Agent Systems: A Byzantine-Tolerant Secure Collaborative RAG Framework

新框架SecureCollaRAG对抗RAG知识腐败攻击

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出SecureCollaRAG，一个旨在保护检索增强生成（RAG）系统免受知识腐败攻击的新框架。这些攻击旨在通过毒化提供给RAG系统的文档来操纵大型语言模型的输出。SecureCollaRAG采用一种拜占庭容错的协作方法，利用多源知识验证机制和基于GNN的可信度评分来验证文档来源并维护知识的完整性。 AI

影响 该框架旨在通过防止对RAG系统数据的恶意操纵来提高LLM输出的可靠性。

排序理由 该集群包含一篇详细介绍新AI安全框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新框架SecureCollaRAG对抗RAG知识腐败攻击

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Zhaoqi Wang, Daqing He, Zijian Zhang, Ye Liu, Jiamou Liu, Zhirui Zeng, Zhan Qin, Zhen Li, Xin Li, Hongwei Yao, Jincheng An, Yong Liu, Yi Li, Qi Sun, Xiulei Liu, Liehuang Zhu ·

    对抗Agent系统中的知识腐败：一种拜占庭容错的安全协作RAG框架

    arXiv:2608.04366v1 Announce Type: cross Abstract: While retrieval-augmented generation systems partially address the hallucination issues in large language models, it also introduces new vulnerabilities to knowledge corruption attacks. Adversaries exploit these vulnerabilities by…

相关实体

相关话题