Unsloth Studio 发布了 v0.1.48-beta 版本,为模型导出和 API 服务带来了显著增强。此次更新支持将模型导出为多种格式,包括 NVFP4、FP8 和 imatrix GGUFs,并引入了更强大的 OpenAI 兼容 API 服务,具备自动模型切换和工具调用修复等功能。此外,该版本还改进了 RAG 和文件聊天功能,提供更好的文档解析和可定制的嵌入模型,同时对 Unsloth 平台进行了整体优化和可靠性提升。 AI
影响 通过改进的导出格式和 API 服务,增强了本地 LLM 部署和互操作性。
排序理由 软件发布,为现有工具带来新功能和改进。
- DeepSeek-V4 Flash
- FP8
- GGUF
- Grpo
- Hugging Face
- imatrix GGUF
- Llama-swap API
- Mlx
- NVFP4
- OpenAI-Compatible API
- safetensors
- Unsloth Studio
- Lora
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →