研究人员开发了一种名为DAFS(动态注意力预算感知帧选择)的新颖方法,用于从长视频中高效选择相关帧,以供多模态大语言模型(MLLM)进行分析。这种无需训练的方法利用MLLM内的跨模态注意力来识别帧证据,而无需预先理解视频内容。通过将注意力分数转换为相关性指标,DAFS即使使用较小的MLLM选择器也能运行,并通过动态规划有效管理令牌预算,在Video-MME等基准测试中优于均匀采样和先前基于训练的方法。 AI
影响 使AI模型能够更高效地处理长视频,可能降低计算成本并提高视频理解任务的性能。
排序理由 学术论文,详细介绍了视频分析中帧选择的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →