AWS L40S

GLM-5.2 在 64GB Mac 上比 Qwen3.6 慢，原因在于内存限制和活跃参数 · 跟踪 1 个来源

在 64GB Mac 上对 GLM-5.2 和 Qwen3.6 大型语言模型进行的比较显示，GLM-5.2 的速度明显较慢，这与一些说法相反。主要原因是 GLM-5.2 是一个开源的 753B 参数混合专家（MoE）模型，即使经过极端量化，也需要超过 217GB 的内存，远远超过了 Mac 的 RAM。此外，MoE 模型的速度取决于活跃参数，而不是总参数，GLM-5.2 的活跃参数 40B 大约是 Qwen3.6 的活跃参数 3B 的…