研究人员开发了ReVEAL,一个用于推理视频目标分割(ReVOS)的新型框架,该框架将多模态大语言模型(MLLM)的推理过程与分割模型解耦。该方法使用视觉证据令牌(VETs)将视觉区域与目标、背景或干扰物等角色相关联,并由动态注意力层路由器指导。MLLM在ReVEAL-47K数据集上进行训练,并使用对比注意力基础损失来优化VET增强的推理和注意力路由。在推理时,ReVEAL利用此推理过程来指导冻结的SAM2模型预测目标掩码,其性能优于现有的无对齐方法,并与基于对齐的方法保持竞争力。 AI
影响 这项研究通过利用多模态大语言模型的推理能力,有望提高视频目标分割任务的效率和准确性。
排序理由 该集群描述了一篇详细介绍视频目标分割新框架的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Contrastive Attention Grounding Loss
- Dynamic Attention Layer Router
- MLLMs
- ReVEAL
- ReVEAL-47K
- SAM2
- Visual Evidence Tokens
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →