研究人员开发了 PixSearch,这是一种新颖的端到端大型多模态模型(LMM),旨在改进用于视觉问答的区域锚定检索。与可能传播错误并增加延迟的模块化系统不同,PixSearch 将视觉锚定与检索增强推理相结合。该模型学会触发检索,跨文本、整个图像和区域级数据选择查询,并将目标实体裁剪为视觉查询。与 GroundedSAM-LLaVA 管道相比,这种方法在 CRAG-MM 基准测试上准确率提高了 18.3%,推理延迟降低了 36.4%,尤其在以自我为中心的图像上表现出色。 AI
影响 通过整合区域特定的视觉锚定与检索,增强了多模态推理能力,有望提高复杂视觉问答任务的性能。
排序理由 详细介绍新模型架构及其在基准测试上性能的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →