Unsloth,一个用于本地AI模型推理和微调的开源平台,已正式添加对AMD硬件的支持。此次扩展允许用户利用AMD GPU,包括Radeon RX 9000/7000系列和Instinct MI350/MI300,来执行各种AI任务。此次更新承诺显著减少VRAM占用,训练所需VRAM减少高达70%,强化学习所需VRAM减少高达80%,并包含为ROCm、Triton和PyTorch优化的构建。 AI
影响 将本地AI模型训练和推理的可访问性扩展到拥有AMD硬件的用户,可能增加开源AI工具的采用率。
排序理由 这是对现有工具的软件更新,增加了硬件兼容性,而不是新的前沿模型发布或重大的行业性事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →