新的SentAttack方法针对AI系统中的密集检索模型

研究人员开发了SentAttack，这是一种新颖的句子级黑盒对抗攻击方法，专门用于检索增强生成（RAG）系统中的密集检索（DR）模型。该方法通过生成低排名、不相关的文档来误导DR模型，克服了现有单词级攻击的局限性。SentAttack分两个阶段进行：首先，使用来自黑盒RAG系统的数据训练一个代理DR模型；其次，利用该代理模型通过将句子级聚类与目标查询连接起来来创建对抗性文档。 AI

影响 这项研究通过突出句子级对抗攻击的漏洞，可能有助于开发更强大的密集检索模型。

排序理由 该项目是一篇学术论文，详细介绍了一种攻击AI模型的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.IR (Information Retrieval) 阅读 →

• alphaXiv
• CatalyzeX
• DagsHub
• Dense Passage Retrieval for Open-Domain Question Answering
• Gotit.pub
• Hugging Face
• network management
• neural ranking model
• retrieval-augmented generation
• ScienceCast
• SentAttack

• 论文
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →