Unsloth Studio 发布了 0.1.48-beta 版本,在模型导出和 API 服务能力方面进行了重大增强。此次更新允许以 NVFP4、FP8 和 imatrix GGUF 等多种格式导出模型,并改进了对 GGUF LoRA 和源匹配导出的支持。此外,Unsloth 现在提供更强大的 OpenAI 兼容 API 服务,具有更安全的自动模型切换、用于 VRAM 管理的空闲自动卸载以及增强的工具调用修复。此次发布还改进了 RAG 和文件聊天功能,增强了对 PDF 和 Word 文档的处理能力,并支持自定义嵌入模型。 AI
影响 提高了处理本地 AI 模型和 API 的开发者的效率和灵活性。
排序理由 这是一个用于增强 AI 模型操作的工具的软件发布,而不是来自前沿实验室的核心 AI 模型发布。
- DeepSeek-V4 Flash
- FP8
- GGUF
- Grpo
- Hugging Face
- imatrix GGUF
- Llama-swap API
- Mlx
- NVFP4
- OpenAI-Compatible API
- safetensors
- Unsloth Studio
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →