研究人员开发了一个新的基准和评估框架，用于评估检索增强生成（RAG）系统抵御多态 Sybil 投毒攻击的能力。该框架将读取器的输出分为黄金、劫持、弃权和漂移四类，并提供转移矩阵来分析攻击的演变。该研究引入了多态 Sybil 投毒，这是一种方法，其中多个不同的段落共同支持攻击者的目标，从而规避了标准的重复过滤，并显著提高了劫持率。 AI
影响 这项研究突显了 RAG 系统中的关键漏洞，可能影响依赖外部知识的 AI 应用的未来开发和安全协议。
排序理由 学术论文，详细介绍了 RAG 系统的新基准和攻击方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
