Unsloth 发布了更新的 Docker 镜像,现已支持 NVIDIA 和 AMD GPU,并具备多用户账户功能,可实现隔离工作。此次更新还为 INT8/FP8 图像扩散模型带来了更快的推理速度,并增强了对 ARM64 Windows CUDA、GRPO 和 AMD RDNA 硬件的支持。 AI
影响 提高了本地运行 LLM 的用户(尤其是拥有 AMD 硬件或需要多用户设置的用户)的可访问性和性能。
排序理由 这是用于优化 LLM 性能的工具的软件更新,并非核心 AI 模型发布或研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →