PulseAugur
中
实时 10:52:31
English(EN) When RAG Hurts: Diagnosing and Mitigating Attention Distraction in Retrieval-Augmented LVLMs

新的MAD-RAG方法解决了LVLM中的注意力分散问题

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员在检索增强型大型视觉语言模型（LVLM）中发现了一种新的故障模式，称为注意力分散（AD）。当高度相关的检索文本全局抑制视觉注意力时，就会发生这种情况，导致模型将注意力从回答它们以前可以处理的问题所必需的图像区域移开。为了解决这个问题，提出了一种名为MAD-RAG的新方法，该方法使用双问题表述和注意力混合来分离视觉基础与上下文集成。在OK-VQA、E-VQA和InfoSeek数据集上的实验表明，MAD-RAG在标准RAG的基础上显著提高了性能，并以最小的计算成本纠正了大量的失败案例。 AI

影响 这项研究介绍了MAD-RAG，一种通过缓解注意力分散来提高检索增强型LVLM准确性的技术，有望为视觉问答带来更可靠的AI系统。

排序理由 该集群描述了一篇详细介绍一种新颖的LVLM改进方法的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Beidi Zhao, Wenlong Deng, Xinting Liao, Yushu Li, Nazim Shaikh, Yao Nie, Xiaoxiao Li ·

    When RAG Hurts: Diagnosing and Mitigating Attention Distraction in Retrieval-Augmented LVLMs

    arXiv:2602.00344v2 Announce Type: replace-cross Abstract: While Retrieval-Augmented Generation (RAG) is one of the dominant paradigms for enhancing Large Vision-Language Models (LVLMs) on knowledge-based VQA tasks, recent work attributes RAG failures to insufficient attention tow…

相关实体

相关话题