研究人员开发了 SheafPrune,一种通过修剪不相关的视觉标记来降低多模态大语言模型计算成本的新颖方法。该技术利用受束几何学启发的基于图的方法在文本和视觉标记之间传播相关性分数,并校正节点度以提高准确性。SheafPrune 拥有约 450 万个参数,与 LLaVA-NeXT-8B 主干网络进行端到端训练,并可适应各种标记预算。实验表明,SheafPrune 在保持多个基准测试的高准确性的同时,显著加快了预填充时间并降低了 FLOPs。 AI
影响 降低了多模态大语言模型的推理成本,可能支持更广泛的部署和更快的处理。
排序理由 详细介绍优化大语言模型推理新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →