研究人员开发了PACE,一个专为原生多模态大语言模型(原生MLLM)设计的创新压缩框架。与之前针对ViT模型的旧方法不同,PACE解决了无ViT原生MLLM的独特挑战,这类模型直接对像素块进行分词,可能存在显著的视觉标记冗余。PACE分析标记的可辨别性和跨维度冗余以优化压缩,在仅保留25%-50%视觉标记的情况下实现近乎无损的性能。该方法使FLOPs减少2倍以上,在不损害准确性的前提下提高了效率。 AI
影响 这项研究可能显著提高原生多模态LLM的效率,从而实现更广泛的部署和更快的推理。
排序理由 该集群描述了一篇详细介绍MLLM新型压缩框架的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →