研究人员开发了 CoVisco,这是一种新颖的视觉编码器,旨在解决理解长视频的扩展限制。CoVisco 集成了编解码器原生输入和原生令牌压缩,使其能够一次性处理扩展的视觉序列,而无需形成密集的跨帧交互。该模型使用抽象令牌来维护视频级上下文,并且可以输出这些抽象令牌或抽象令牌与选定的块令牌的组合,以用于下游多模态大型语言模型 (MLLM)。在四段、64 帧的设置下进行测试时,CoVisco 使用的视觉令牌数量大大减少,性能与 OneVision-Encoder 相当或超出。 AI
影响 CoVisco 处理长视频的令牌压缩方法可以显著降低计算成本,从而实现更高效的多模态人工智能应用。
排序理由 该集群包含一篇详细介绍视觉语言理解新模型架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →