Unsloth发布了一项更新,显著增强了对AMD GPU的支持,从而可以在各种AMD硬件上进行本地LLM训练和推理。新版本承诺在不影响准确性的情况下,性能提升高达2倍,显存使用量减少70%。更新还包括对ROCm的优化、与MI300X和MI325X等特定AMD GPU的兼容性改进,以及运行更大模型和更可靠下载的增强功能。 AI
影响 加速了在更广泛硬件上的本地LLM部署,可能降低研究人员和开发者的门槛。
排序理由 这是用于增强特定硬件上LLM功能的工具的软件更新,而不是核心前沿模型发布或研究论文。
- AMD
- Blackwell
- Cloudflare
- Gemma 4
- GGUF
- GLM 4.7 Flash
- Hugging Face
- Inkling
- Instinct
- MI300X
- MI325X
- NVIDIA
- Qwen 3.5
- Qwen3.6
- Radeon
- ROCm
- Ryzen
- safetensors
- Unsloth
- MCP
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →