English(EN) GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine

GLM-5.2 (744B MoE) 在拥有 25GB RAM 的消费级硬件上运行

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-09 22:43

一位用户已成功在仅配备 25GB RAM 的消费级机器上运行了拥有 7440 亿参数并采用混合专家（MoE）架构的 GLM-5.2 模型。这一成就展示了大型语言模型日益提高的效率和可访问性，使其能够在比以往设想的更低功耗的硬件上使用。 AI

影响展示了大型语言模型在消费级硬件上的效率和可访问性的提高。

排序理由用户成功在消费级硬件上运行大型模型，表明效率和可访问性有所提高。

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

r/LocalLLaMA TIER_1 English(EN) · /u/yogthos · 2026-07-09 22:43

GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine

<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1us5m0g/glm52_744b_moe_on_a_25gbram_consumer_machine/"> <img alt="GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine" src="https://external-preview.redd.it/NNWlLPxzyXhbyIUMuz2mW9zvetk56LAOcSGVs0rdPqY.png?width=…