研究人员开发了一种名为PRUDENT的新方法,通过重新分配视觉令牌来提高大型视觉语言模型(VLM)的效率。与以往关注令牌排名的旧方法不同,PRUDENT首先使用缩减的令牌预算回答问题,然后将节省下来的令牌用于重新回答那些小型VLM对初步修剪答案有异议的问题。这种方法利用小型VLM的异议来识别和纠正修剪失败,从而提高各种VLM大小和基准测试的性能。 AI
影响 该方法通过智能地重新分配计算资源,有望实现更高效、更准确的视觉语言模型。
排序理由 该集群描述了在arXiv上的一篇学术论文中提出的一种新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →