neural ranking model

新的SentAttack方法针对AI系统中的密集检索模型

研究人员开发了SentAttack，这是一种新颖的句子级黑盒对抗攻击方法，专门用于检索增强生成（RAG）系统中的密集检索（DR）模型。该方法通过生成低排名、不相关的文档来误导DR模型，克服了现有单词级攻击的局限性。SentAttack分两个阶段进行：首先，使用来自黑盒RAG系统的数据训练一个代理DR模型；其次，利用该代理模型通过将句子级聚类与目标查询连接起来来创建对抗性文档。