研究人员开发了一种名为Cen-Prune的新方法，通过优化视觉令牌（visual tokens）的剪枝方式来提高大型视觉语言模型（LVLM）的效率。标准的基于多样性的剪枝依赖于余弦相似度，但原始视觉令牌的相似度过于集中，难以有效地区分冗余令牌。在计算相似度之前对令牌特征进行中心化可以揭示更丰富的结构，但会因丢失全局独特令牌的信息而降低性能。Cen-Prune通过使用中心化余弦相似度来衡量多样性，同时保留原始空间的独特性，从而在各种基准测试和LVLM架构上以最小的计算开销提高了性能。 AI
影响 通过改进视觉令牌剪枝来优化LVLM推理效率，可能降低计算成本。
排序理由 该集群包含一篇详细介绍优化LVLM新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
