English(EN) E-MIA: Exam-Style Black-Box Membership Inference Attacks against RAG Systems

新的 E-MIA 攻击通过考试风格查询探测 RAG 系统中的敏感数据

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-06 04:00

研究人员开发了 E-MIA，一种针对检索增强生成 (RAG) 系统进行成员推理攻击的新颖方法。该技术将目标文档中的可验证证据转换为四种问题类型的考试形式，并使用汇总的考试分数作为信号来推断该文档是否是 RAG 系统知识库的一部分。E-MIA 旨在提高在严格设置下成员和非成员分数的区分度，同时保持隐蔽查询，其性能优于依赖不稳定信号或显眼探测的现有方法。 AI

影响凸显了 RAG 系统潜在的安全漏洞，需要强大的防御措施来防止数据泄露。

排序理由学术论文，详细介绍了针对 RAG 系统进行成员推理攻击的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

E-MIA
LLM

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Zelin Guan, Shengda Zhuo, Zeyan Li, Jinchun He, Wangjie Qiu, Zhiming Zheng, Shuqiang Huang · 2026-05-06 04:00

E-MIA：针对RAG系统的考试式黑盒成员推理攻击

arXiv:2605.00955v1 Announce Type: cross Abstract: Retrieval-Augmented Generation (RAG) equips large language models (LLMs) with external evidence by retrieving documents at inference time, but it also turns the retrieval corpusinto a sensitive asset. Under a black-box setting, an…

报道来源 [1]

E-MIA：针对RAG系统的考试式黑盒成员推理攻击

相关实体

相关话题