研究人员推出了一种名为查询-视觉分解(QViD)的新方法,用于修剪大型视觉语言模型(VLMs)中的视觉标记。这种无需训练的方法利用查询-视觉交互矩阵的低秩结构来识别和移除不太相关的视觉标记,从而提高效率。在图像和视频理解基准上的实验表明,QViD能够提高性能,尤其是在激进的压缩设置下。 AI
影响 该方法可以显著降低大型视觉语言模型的推理成本,使其在各种应用中更易于访问和更高效。
排序理由 该集群包含一篇详细介绍提高AI模型效率的新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →