English(EN) Macaron-V1: How RL Made GLM 5.2 Great Again — MindLab Mixture-of-LoRA Post-Training Pushes Trillion-Parameter Models With 64 GPUs

MindLab采用Macaron-V1 Mixture-of-LoRA技术增强GLM 5.2

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-22 02:22

MindLab推出了Macaron-V1，一种用于增强GLM 5.2模型的微调技术。该方法采用Mixture-of-LoRA方法，整合了专门的适配器模块以提高性能和上下文长度。训练效率显著，一个万亿参数模型仅需64个GPU。 AI

影响该技术展示了增强大型语言模型的有效方法，可能降低高级模型定制的门槛。

排序理由该条目描述了一种现有模型的新微调技术，属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

Pandaily TIER_1 English(EN) · [email protected] (Pandaily) · 2026-07-22 02:22

Macaron-V1：RL 如何让 GLM 5.2 再次伟大 — MindLab Mixture-of-LoRA 训练后技术将万亿参数模型推向 64 个 GPU

MindLab releases Macaron-V1: Mixture-of-LoRA post-training on GLM 5.2 with 4 specialized 1B-parameter expert adapters, 2M token context extension, and 748B Venti variant trained on just 64 GPUs.