研究人员开发了 SkimPrefill,一种新颖的方法,用于加速处理长交错图文输入的视觉语言模型(VLM)的预填充过程。该技术利用一个较小的混合模型,以较低的分辨率高效地扫描整个输入,并用单个注意力头识别图像和段落等关键单元。通过优先处理这些关键元素,SkimPrefill 显著减少了 Qwen3.5-9B、Gemma-4-12B 和 Qwen3-VL-32B 等目标模型的预填充时间,速度提升高达 11.6 倍,同时在 MMLongBench 等基准测试中保持了准确性。 AI
影响 该方法可以显著加快处理大型文档和图像集合的 VLM 的处理速度,改善用户体验并支持新应用。
排序理由 学术论文,详细介绍了一种提高 VLM 性能的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →