PulseAugur
中
实时 13:05:03
English(EN) DSPrompt: Dynamic Soft Prompt Defense Against M-RAG Corruption

DSPrompt防御框架增强M-RAG抵御对抗性攻击

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出DSPrompt，一个新颖的防御框架，旨在保护多模态检索增强生成（M-RAG）系统免受对抗性攻击。与增加推理开销的现有方法不同，DSPrompt通过将可学习的软提示插入视觉和文本编码器中，动态重塑检索器的嵌入语义。该方法使用最小-最大方案进行训练，其中攻击者制作对抗性文档，而防御者学会将它们从top-k排名中排除，同时保留良性数据。实验表明，DSPrompt在计算成本和参数添加极少的情况下显著降低了攻击成功率，优于当前的防御基线。 AI

影响 为M-RAG系统引入了一种新颖的防御机制，有可能在不显著增加计算开销的情况下提高其对抗对抗性攻击的鲁棒性。

排序理由 该条目描述了一篇关于M-RAG系统新颖防御框架的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 Hugging Face Daily Papers 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

DSPrompt防御框架增强M-RAG抵御对抗性攻击

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该条目描述了一篇关于M-RAG系统新颖防御框架的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
paper, safety
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
62 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

  1. Hugging Face Daily Papers TIER_1 English(EN) ·

    DSPrompt：动态软提示防御M-RAG腐败

    Multimodal Retrieval Augmented Generation (M-RAG) is increasingly vulnerable to adversarial attacks where malicious data are crafted to produce embeddings that align with benign entries in the vector space, deceiving retrieval and inducing harmful outputs. Existing defenses prima…

相关实体

相关话题