PulseAugur
实时 16:38:13
English(EN) Unsloth now supports AMD!

Unsloth为本地AI模型推理添加AMD硬件支持

Unsloth,一个用于本地AI模型推理和微调的开源平台,已正式添加对AMD硬件的支持。此次扩展允许用户利用AMD GPU,包括Radeon RX 9000/7000系列和Instinct MI350/MI300,来执行各种AI任务。此次更新承诺显著减少VRAM占用,训练所需VRAM减少高达70%,强化学习所需VRAM减少高达80%,并包含为ROCm、Triton和PyTorch优化的构建。 AI

影响 将本地AI模型训练和推理的可访问性扩展到拥有AMD硬件的用户,可能增加开源AI工具的采用率。

排序理由 这是对现有工具的软件更新,增加了硬件兼容性,而不是新的前沿模型发布或重大的行业性事件。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Unsloth为本地AI模型推理添加AMD硬件支持

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/danielhanchen ·

    Unsloth现已支持AMD!

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1v1nor4/unsloth_now_supports_amd/"> <img alt="Unsloth now supports AMD!" src="https://preview.redd.it/y35zj1u8deeh1.png?width=640&amp;crop=smart&amp;auto=webp&amp;s=ec449916b43eb79bbabbbc4c063c3b3e0eea967a" ti…