一款名为 Colibri 的新语言模型，基于 GLM-5.2，已被开发出来，仅需 25GB RAM 即可在笔记本电脑上运行。该模型拥有 7440 亿参数，采用混合专家（MoE）架构，通过每次仅激活约 400 亿参数来实现效率。该实现使用纯 C 语言编写，没有任何外部依赖，使其高度易于访问。 AI
影响 这一发展可能显著降低运行大型语言模型的门槛，从而在消费级硬件上实现更广泛的实验和部署。
排序理由 该集群描述了一个新模型发布，其中包含有关其架构和资源要求的技术细节。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
RT @chenzeling4: 744B parameters. On a laptop. With 25GB RAM. Colibri runs GLM-5.2 (744B MoE) in pure C with zero dependencies. The trick: only ~40B params activate per token, so it keeps the dense part resident and streams experts from disk on demand. A single 2,400-line C file.…
RT @chenzeling4: 744B parameters. On a laptop. With 25GB RAM. Colibri runs GLM-5.2 (744B MoE) in pure C with zero dependencies. The trick: only ~40B params activate per token, so it keeps the dense part resident and streams experts from disk on demand. A single 2,400-line C file.…