CAREATTACK

新的CAREATTACK框架通过恶意知识注入利用RAG系统

研究人员开发了CAREATTACK，一个用于向检索增强生成（RAG）系统注入恶意知识的新颖框架。这种模型中心攻击针对密集检索模型的参数，用有害信息取代良性证据。CAREATTACK包括冲突感知编辑和锚点修复阶段，以确保攻击的有效性，同时最大限度地减少对非目标提示的影响。该方法在Qwen3-Embedding-0.6B和BGE-M3上进行了演示，成功地操纵了RAG系统，凸显了基于开源检索模型构建的应用程序中存在的重大安全漏洞。