Grounded Message Coreset Pruning

新方法通过关注集体消息来压缩 VLM 视觉数据

研究人员开发了一种名为 Grounded Message Coreset Pruning (GMC) 的新方法，用于高效压缩视觉语言模型 (VLM) 的视觉信息。与以往将视觉 token 独立处理的方法不同，GMC 专注于保留语言解码器所需的集体消息。该方法旨在通过最小化处理的视觉 token 数量来降低推理成本，同时保持模型性能。实验表明，GMC 可以在能力损失最小的情况下显著减少 token 使用量，甚至在某些情况下能提高性能。