研究人员开发了 AnchorPrune，一个新颖的框架，旨在通过剪枝冗余视觉 token 来优化大型视觉语言模型的效率。这种无需训练的方法构建了一个相关性锚点，并用互补的上下文进行扩展，保留了关键的查询信息，同时恢复了信息丰富、非冗余的细节。AnchorPrune 在准确性-效率权衡方面表现出显著的改进，尤其是在积极压缩下，以一小部分原始 token 保持了高性能。 AI
影响 该方法可以显著降低多模态人工智能应用的推理成本，从而能够在资源受限的设备上进行更广泛的部署。
排序理由 该集群包含一篇详细介绍优化 AI 模型新方法的论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2607.07033v1 Announce Type: cross Abstract: Large vision-language models incur substantial inference costs because high-resolution inputs introduce thousands of visual tokens, many of which are redundant for a given query. Existing pruning methods often combine query releva…
Large vision-language models incur substantial inference costs because high-resolution inputs introduce thousands of visual tokens, many of which are redundant for a given query. Existing pruning methods often combine query relevance and token diversity, yet these objectives can …