PulseAugur
实时 23:40:52
English(EN) GLM 5.2 running on MacBook Pro M5 48 GB Ram at between 2 - 2.8t/s

GLM-5.2 在 MacBook Pro M5 上运行,速度达到 2.8 tokens/sec

一位用户已成功在配备 48 GB RAM 的 MacBook Pro M5 上实现了 GLM-5.2 的运行,推理速度在每秒 2 到 2.8 个 token 之间。用户尝试了不同的配置,包括使用 Flash MOE 和预提示(pre-prompt),并指出性能会因任务复杂度和机器负载而异。此设置是正在进行的实验的一部分,旨在将 GLM-5.2 与 Qwen 等其他模型集成,用于特定的编码任务。 AI

影响 证明了在本地消费级硬件上运行先进 LLM 的可行性,可能降低 AI 实验的门槛。

排序理由 用户在消费级硬件上成功运行特定模型。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

GLM-5.2 在 MacBook Pro M5 上运行,速度达到 2.8 tokens/sec

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/gutard ·

    GLM 5.2 running on MacBook Pro M5 48 GB Ram at between 2 - 2.8t/s

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1uvlhxl/glm_52_running_on_macbook_pro_m5_48_gb_ram_at/"> <img alt="GLM 5.2 running on MacBook Pro M5 48 GB Ram at between 2 - 2.8t/s" src="https://preview.redd.it/td1ow57rs1dh1.png?width=140&amp;height=140&amp…