一款名为 mlx-serve 的新工具允许用户在 Apple Silicon Mac 上本地运行 Claude Code AI 模型,无需使用 Anthropic API 及其相关成本。这个用 Zig 编写的开源解决方案提供了与 OpenAI 兼容的 HTTP API,并声称比 LM Studio 等其他本地推理工具具有更快的解码速度。mlx-serve 还支持其他模型和功能,包括代理沙盒以及与各种前端应用程序的集成。 AI
影响 使得在消费级硬件上免费、私密地本地运行先进的 AI 编码助手成为可能。
排序理由 该条目描述了一个支持本地运行现有 AI 模型的新工具。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →