一位用户已成功配置 Qwen 3.6 35B-A3B 模型，以便在配备 32GB RAM 的 M2 Macbook Pro 上本地运行，用于编码任务。该设置包括从源代码构建 llama.cpp 软件，并从 Hugging Face 下载特定的模型和视觉适配器文件。用户提供了运行模型的详细说明和命令行参数，并强调需要关闭其他应用程序以管理内存限制。 AI
影响 使得能够在消费级硬件上本地运行一个功能强大的编码 LLM，减少对云服务的依赖。
排序理由 用户提供的关于在消费级硬件上本地运行特定 LLM 的实地报告。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
