Chunzheng Zhu

新的PACE框架将原生MLLM压缩，FLOPs减少2倍以上

研究人员开发了PACE，一个专为原生多模态大语言模型（原生MLLM）设计的创新压缩框架。与之前针对ViT模型的旧方法不同，PACE解决了无ViT原生MLLM的独特挑战，这类模型直接对像素块进行分词，可能存在显著的视觉标记冗余。PACE分析标记的可辨别性和跨维度冗余以优化压缩，在仅保留25%-50%视觉标记的情况下实现近乎无损的性能。该方法使FLOPs减少2倍以上，在不损害准确性的前提下提高了效率。