Adaptive Compression Configuration

CodeShrink框架提升MLLM代码理解效率

研究人员开发了CodeShrink，一个旨在提高多模态大语言模型（MLLMs）处理源代码效率的新框架。该系统包含三个关键组件：无空白渲染，用于消除来自空白符的token；自适应压缩配置，使用强化学习为每次输入优化设置；以及主导Token选择，用于修剪不相关的视觉token。评估表明，CodeShrink可以将视觉token使用量减少高达71.2%，同时在代码问答、克隆检测和代码补全等任务上保持或提高性能，优于现有的基于文本和视觉的压缩方法。