mlx-dspark 项目发布了 0.10.0 版本，显著加速了 Apple Silicon 硬件上的 Qwen3.8-27B 模型。此次更新利用了投机解码技术，使模型的 8 位版本速度提升高达 3 倍，在速度和质量上均优于 4 位版本。该项目还提供了一个兼容 OpenAI 的服务器和一个原生的 Mac 应用程序，方便集成。 AI
影响 加速了 Apple Silicon 上的本地 LLM 推理，使强大模型对用户更加易于访问。
排序理由 这是一个加速特定硬件上现有模型的工具发布，而不是来自前沿实验室的新模型发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
