AnchorPrune

AnchorPrune 框架通过剪枝 token 来提高视觉语言模型的效率

研究人员开发了 AnchorPrune，一个新颖的框架，旨在通过剪枝冗余视觉 token 来优化大型视觉语言模型的效率。这种无需训练的方法构建了一个相关性锚点，并用互补的上下文进行扩展，保留了关键的查询信息，同时恢复了信息丰富、非冗余的细节。AnchorPrune 在准确性-效率权衡方面表现出显著的改进，尤其是在积极压缩下，以一小部分原始 token 保持了高性能。