OLMoE-1B-7B-0924-Instruct

ExactMoE 将 MoE 模型内存使用量减少 87%，准确性损失极小

研究人员开发了 ExactMoE，一种用于稀疏专家混合（MoE）语言模型的新型推理设计，可显著降低内存需求。通过仅对激活的专家应用四位权重量化并将它们存储在特定格式中，ExactMoE 在保持高推理吞吐量和准确性的同时，大幅减少了峰值 GPU 内存使用量。该方法允许仅存储和移动必要的专家组件，解决了大型 MoE 模型面临的关键部署挑战。