English(EN) Running Qwen3.6 Locally on a MacBook: oMLX + opencode, Faster Than I Expected

Qwen3.6 LLM 通过 oMLX 在 MacBook Pro 上本地运行，速度很快

作者 PulseAugur 编辑部 · [1 个来源] · 2026-11-05 08:13

一位用户使用 oMLX 框架和 openCode 成功在 MacBook Pro 上本地运行了 Qwen3.6-35B-A3B 大型语言模型。该设置能够实现快速的 token 输出，估计每秒约 100 个 token，从而无需互联网连接即可进行聊天和编码任务。该模型是一种专家混合（Mixture of Experts）类型，每个 token 使用约 30 亿个活跃参数，这有助于其速度和 4 位量化后的可管理大小，使其适合 Apple Silicon 的统一内存架构。该设置需要大量内存，约 20GB，并且可能导致 GPU 在运行时达到 100% 的容量。 AI

影响在消费级硬件上实现本地、免费的 LLM 用于聊天和编码，并保护数据隐私。

排序理由关于使用特定软件和硬件在本地运行特定 LLM 的用户指南。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

Qwen3.6 LLM 通过 oMLX 在 MacBook Pro 上本地运行，速度很快

本文如何被排名

Signal score: 50 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 关于使用特定软件和硬件在本地运行特定 LLM 的用户指南。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: model release, product, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Maple (Huazhe) Lei · 2026-11-05 08:13

在 MacBook 上本地运行 Qwen3.6：oMLX + opencode，比我预期的要快

<blockquote> One 14-inch MacBook Pro. No internet, no API bill. Chat and coding both work, and token output is fast. </blockquote> Load Qwen3.6-35B-A3B (MLX 4bit) locally with oMLX. It is good enough for everyday chat and coding. <u…

本文如何被排名

报道来源 [1]

在 MacBook 上本地运行 Qwen3.6：oMLX + opencode，比我预期的要快

相关实体

相关话题