DenialRAG

新的DenialRAG攻击通过嵌入虚假答案来毒化RAG系统

研究人员开发了一种名为DenialRAG的新方法，通过在精心制作的文档中嵌入对正确答案的否定来毒化检索增强生成（RAG）系统。该攻击明确指出正确答案，对其进行反驳，并为不正确的答案提供虚假的解释，直接与呈现给LLM的真实信息相冲突。在多个数据集、包括Mistral-7B在内的LLM以及各种防御措施上的评估表明，DenialRAG对某些模型，特别是Mistral-7B，非常有效，并且RAG投毒风险是复杂且依赖于模型的。