Unsloth beta 推出推理速度提升 2 倍、API 调用和 MLX 支持

Unsloth 发布了 v0.1.405-beta 版本，带来了显著的性能提升和新功能。更新包括通过 MTP 推理解码将 GGUF 推理速度提升高达 2 倍，并增加了对 OpenAI 和 Anthropic 等服务的 API 调用支持，从而实现网页搜索和代码执行等功能。此外，Unsloth 还为 Mac 用户提供了实验性的 MLX 推理支持，并改进了对非英语语言的支持，同时还进行了各种安全和 UI/UX 改进。 AI

影响 加速了开发人员的本地 LLM 推理和集成能力。

排序理由 这是 AI 工具公司的软件发布，而非前沿实验室的核心模型发布。

在 Unsloth — Releases 阅读 →

• Anthropic
• MLX
• Ollama
• OpenAI
• Qwen3.6
• Unsloth
• vLLM

• 模型发布
• 产品
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →