RUTA方法在保持性能的同时大幅减少了LLM的视觉标记

研究人员开发了RUTA，一种用于减少大型语言模型处理的视觉标记数量的新颖方法。RUTA学习根据查询特定相关性和速率-效用目标来选择和分配标记，平衡任务性能与计算成本。在评估中，RUTA在LLaVA-NeXT-7B和Qwen3-VL-8B等模型上显著减少了标记使用量，同时保留了高比例的任务性能。 AI

影响 该方法可以显著降低使用高分辨率图像和长视频的视觉语言模型的计算成本。

排序理由 arXiv上发表了一篇关于视觉标记分配新颖方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• LLaVA-NeXT-7B
• Qwen3 VL 8B
• RUTA
• ScienceCast

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →