DeepSeek-OCR-Large

RTPrune 通过新颖的令牌剪枝技术将 DeepSeek-OCR 推理速度提升 1.23 倍

研究人员开发了 RTPrune，一种新颖的两阶段令牌剪枝方法，旨在提高 DeepSeek-OCR 推理的效率。该方法模仿了模型两次阅读的过程，首先优先处理高范数令牌以获取显著信息，然后使用最优传输理论合并剩余令牌。RTPrune 还包含针对 OCR 任务定制的动态剪枝比例，实现了准确性和效率之间的卓越平衡。