PulseAugur
实时 19:56:30

Colibri语言模型在配备25GB RAM的笔记本电脑上运行744B参数

一款名为Colibri的新语言模型,基于GLM-5.2开发,可以在仅有25GB RAM的笔记本电脑上运行。该模型拥有7440亿参数,以纯C语言运行,没有任何外部依赖。其效率通过每次仅激活约400亿参数来实现。 AI

影响 使得大型语言模型可以在消费级硬件上运行,可能实现更广泛的普及和使用。

排序理由 该条目描述了一个新的语言模型发布,包含有关其架构和资源需求的详细技术信息。[lever_c_demoted from research: ic=1 ai=1.0]

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Colibri语言模型在配备25GB RAM的笔记本电脑上运行744B参数

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    RT @chenzeling4: 744B parameters. On a laptop. With 25GB RAM. Colibri runs GLM-5.2 (744B MoE) in pure C with zero dependencies. The trick: only ~40B params acti

    RT @chenzeling4: 744B parameters. On a laptop. With 25GB RAM. Colibri runs GLM-5.2 (744B MoE) in pure C with zero dependencies. The trick: only ~40B params activate per token, so it keeps the dense part resident and streams experts from disk on demand. A single 2,400-line C file.…