一种新方法允许用户在 Apple Silicon Mac 上本地运行 Claude Code,无需 API 密钥或产生费用。此设置利用 mlx-serve 工具托管 Gemma 4 或 Qwen 3.6 等模型,通过 Anthropic Messages API 实现流式传输、工具调用和多轮对话等功能。该指南指出,Gemma 4 E4B 4 位在 M4 Max 上可提供约 105 tokens/秒的解码速度,而 Qwen 3.6 27B 4 位使用原生 MTP spec-decode 可实现约 36 tokens/秒的速度,在编码任务上速度快 1.43 倍。 AI
影响 能够在个人硬件上本地、免费地运行先进的 AI 编码助手。
排序理由 这是一个关于如何将现有工具和模型结合使用的指南,而不是来自前沿实验室的新发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →