Unified Computation Scheduling

新的CE-Router方法加速统一多模态模型

研究人员开发了一种名为CE-Router的新方法，通过优化计算来加速统一多模态模型（UMMs）。该方法识别出一种非对称的核心扩展结构，将用于理解的稳定重要性组件与用于生成的依赖于进度的修正分开。CE-Router利用共享的核心评分器和特定于生成的扩展，并与统一计算调度协调，以在推理过程中实现高效的层跳过、剪枝和提前退出。实验表明，在性能损失极小的情况下，速度得到了显著提升。