AdaVSkip 方法通过跳过视觉标记来提高 MLLM 推理效率

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-15 04:00

研究人员开发了 AdaVSkip，一种提高多模态大语言模型 (MLLM) 推理效率的新方法。该技术跨 transformer 层自适应地跳过视觉标记，在不显著影响性能的情况下降低计算负载。AdaVSkip 在每层中使用轻量级路由器来决定标记是应被处理还是跳过，从而创建特定于输入的计算路径。一个两阶段的训练框架，结合了监督学习和强化学习，优化了这些路由决策，以获得更好的任务性能和计算效率。 AI

影响 AdaVSkip 可能会显著降低运行 MLLM 的计算成本，使其在资源受限的环境中更易于访问和部署。

排序理由该集群包含一篇详细介绍提高 AI 模型效率新方法的学术论文。 [lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 15 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇详细介绍提高 AI 模型效率新方法的学术论文。 [lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Yuyao Sun, Tao Deng, Shuang Li, Deqing Wang · 2026-09-15 04:00

AdaVSkip: AdaVSkip 跨层自适应视觉跳帧以实现高效 MLLMs 推理

arXiv:2609.15131v1 Announce Type: cross Abstract: Multimodal large language models (MLLMs) require substantial computation to process numerous visual tokens across all transformer layers. Most methods for efficient MLLM inference exploit horizontal redundancy by compressing visua…

本文如何被排名

报道来源 [1]

AdaVSkip: AdaVSkip 跨层自适应视觉跳帧以实现高效 MLLMs 推理

相关实体

相关话题