English(EN) SentAttack: A Sentence-Level Black-Box Adversarial Attack Method for Dense Retrieval Models

新的SentAttack方法针对AI系统中的密集检索模型

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-03 16:14

研究人员开发了SentAttack，这是一种新颖的句子级黑盒对抗攻击方法，专门用于检索增强生成（RAG）系统中的密集检索（DR）模型。该方法通过生成低排名、不相关的文档来误导DR模型，克服了现有单词级攻击的局限性。SentAttack分两个阶段进行：首先，使用来自黑盒RAG系统的数据训练一个代理DR模型；其次，利用该代理模型通过将句子级聚类与目标查询连接起来来创建对抗性文档。 AI

影响这项研究通过突出句子级对抗攻击的漏洞，可能有助于开发更强大的密集检索模型。

排序理由该项目是一篇学术论文，详细介绍了一种攻击AI模型的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.IR (Information Retrieval) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该项目是一篇学术论文，详细介绍了一种攻击AI模型的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, other; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 113 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Wenjian Luo · 2026-07-03 16:14

SentAttack：面向稠密检索模型的句子级黑盒对抗攻击方法

Retrieval-Augmented Generation (RAG) systems typically consist of a dense retrieval (DR) model for initial retrieval and a neural ranking model (NRM) for re-ranking.Existing robustness studies in RAG mainly focus on NRMs, while adversarial attacks on DR models are mostly limited …

本文如何被排名

报道来源 [1]

SentAttack：面向稠密检索模型的句子级黑盒对抗攻击方法

相关实体

相关话题