Unsloth 为更快的本地 LLM 训练添加了 AMD GPU 支持

Unsloth 发布了一个更新，显著增强了对 AMD GPU 的支持，从而能够在 Windows、WSL 和 Linux 上进行本地 LLM 训练和推理。新版本与之前的配置相比，性能提升高达 2 倍，VRAM 占用减少 70%，且准确性没有损失。该更新还提高了与 AMD 的 MI300X 和 MI325X GPU 的兼容性，支持 GGUF 和 Safetensors 格式，并通过利用系统内存和跨多个 GPU 分割模型的功能，支持运行更大的模型。 AI

影响 加速了在 AMD 硬件上的本地 LLM 部署，可能降低没有 NVIDIA GPU 的用户的门槛。

排序理由 这是一个用于增强特定硬件上 LLM 性能的工具的软件更新，而不是核心 AI 模型发布或研究论文。

在 Unsloth — Releases 阅读 →

• AMD
• Blackwell
• Cloudflare
• Gemma 4
• GGUF
• GLM 4.7 Flash
• Hugging Face
• Inkling
• Instinct
• MI300X
• MI325X
• NVIDIA
• Qwen 3.5
• Qwen3.6
• Radeon
• Rocm
• Ryzen
• safetensors
• Unsloth

• 基础设施
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →