PulseAugur
中
实时 20:01:59
English(EN) GLM 5.2 running on MacBook Pro M5 48 GB Ram at between 2 - 2.8t/s

GLM-5.2 模型可在配备 25GB RAM 的消费级硬件上运行 · 已追踪 2 个来源

作者 PulseAugur 编辑部 · [3 个来源] ·

据报道，拥有 744B 参数的混合专家（MoE）模型 GLM-5.2 可以在消费级硬件上运行。一位用户分享说，它可以在大约 25 GB RAM 的机器上运行，而另一位用户详细介绍了其在配备 48 GB RAM 的 MacBook Pro M5 上的性能，速度在每秒 2 到 2.8 个 token 之间。这一进展表明在本地运行大型语言模型的可用性有所提高。 AI

影响 使得在个人设备上更广泛地访问和试验大型语言模型成为可能。

排序理由 用户报告的大型语言模型在消费级硬件上的性能和可用性。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →

GLM-5.2 模型可在配备 25GB RAM 的消费级硬件上运行 · 已追踪 2 个来源

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Research
用户报告的大型语言模型在消费级硬件上的性能和可用性。
Source corroboration
3 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
78 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.
Coverage growth since scoring
+1 source(s) since last score
New sources have picked up this story since our last re-score. Score will update on the next scoring pass.

完整方法见我们的编辑标准。

报道来源 [3]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    https:// github.com/JustVugg/colibri 可以在拥有约25GB内存的消费级机器上运行GLM-5.2 (744B参数MoE) # ai # optimization # developme

    https:// github.com/JustVugg/colibri it is possible to run GLM-5.2 (744B-parameter MoE) on a consumer machine with ~25 GB of RAM # ai # optimization # development

    链接 github.com/…/colibri
  2. r/LocalLLaMA TIER_1 English(EN) · /u/gutard ·

    GLM 5.2 在配备 48 GB 内存的 MacBook Pro M5 上运行，速度在 2 - 2.8t/s 之间

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1uvlhxl/glm_52_running_on_macbook_pro_m5_48_gb_ram_at/"> <img alt="GLM 5.2 running on MacBook Pro M5 48 GB Ram at between 2 - 2.8t/s" src="https://preview.redd.it/td1ow57rs1dh1.png?width=140&amp;height=140&amp…

  3. r/singularity TIER_2 English(EN) · /u/Lopsided_Dot_4557 ·

    Colibri上手体验：无需GPU即可在本地运行GLM 5.2 (744B)

    <table> <tr><td> <a href="https://www.reddit.com/r/singularity/comments/1uwkzw6/colibri_handson_running_glm_52_744b_locally/"> <img alt="Colibri Hands-on: Running GLM 5.2 (744B) Locally without GPU" src="https://external-preview.redd.it/Y0H_QLEtOIIHrOWWBGDmNqivzH9PMwW73Z1CxN49qSI…

相关实体

相关话题