GLM-5.2 在 64GB Mac 上比 Qwen3.6 慢，原因在于内存限制和活跃参数 · 跟踪 1 个来源

在 64GB Mac 上对 GLM-5.2 和 Qwen3.6 大型语言模型进行的比较显示，GLM-5.2 的速度明显较慢，这与一些说法相反。主要原因是 GLM-5.2 是一个开源的 753B 参数混合专家（MoE）模型，即使经过极端量化，也需要超过 217GB 的内存，远远超过了 Mac 的 RAM。此外，MoE 模型的速度取决于活跃参数，而不是总参数，GLM-5.2 的活跃参数 40B 大约是 Qwen3.6 的活跃参数 3B 的 13 倍，导致理论上存在 13 倍的速度差距。虽然存在 GLM-5.2 的专用流式实现，但它仍处于实验阶段，仅限于短上下文，速度约为每秒 2 个 token，在所测试的硬件上不实用。 AI

影响 强调了在本地运行大型 MoE 模型所面临的实际限制，以及活跃参数相对于总参数对速度的重要性。

排序理由 文章对特定硬件上的两个 LLM 进行了详细的技术比较和基准测试，并对其性能和适用性进行了有观点的分析。

在 dev.to — LLM tag 阅读 →

• M1 Max
• AWS L40S
• GLM-5.2
• Hugging Face
• MacBook Pro
• Mixture of Experts
• Ollama
• Qwen3.6

• 模型发布
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →