研究人员开发了一种名为C$^2$-Routing的新方法,以提高视觉语言模型(VLM)在推理过程中的效率。该技术自适应地结合图像裁剪和压缩,以在不显著牺牲准确性的情况下降低计算负载。C$^2$-Routing旨在通过根据图像内容和所提问题智能选择最佳输入缩减策略来优化VQA任务。实验表明,该方法平均可将FLOPs减少36%以上,视觉令牌减少42%以上,同时对任务性能的影响最小。 AI
影响 该方法可能导致更高效的视觉语言模型的部署,降低视觉问答等应用的计算成本。
排序理由 该集群描述了arXiv论文中提出的一种新方法,用于提高视觉语言模型的效率。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →