研究人员开发了一个名为CRCP的新框架，以解决检索增强生成（RAG）系统中的语料库投毒攻击问题。现有的攻击在面对包含分块和重排阶段的实际RAG流水线时常常会失败。CRCP旨在通过优化检索相关性、重排器一致性以及跨块边界的鲁棒性来克服这一挑战，并在实验中展示了显著更高的攻击成功率。 AI
影响 突出了RAG安全评估中的现实差距，表明需要新的方法来防御复杂的投毒攻击。
排序理由 详细介绍评估RAG系统安全性的新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →