PulseAugur
中
实时 01:52:04
English(EN) Optimized ai-toolkit fork -- Memory optimizations so most models train in 24GB or less without block swapping or disabling sample inference; DoRA support; inference LoRA support (so you can train on base and generate samples on turbo); min_snr_gamma for more models; more optimizer selections

AI-toolkit 分支在低显存下增强模型训练

作者 PulseAugur 编辑部 · [1 个来源] ·

一个优化的 ai-toolkit 分支已发布，专注于内存优化，以便在 24GB 显存下训练大多数模型而不会有性能损失。此分支支持 DoRA 和推理 LoRA，允许用户在基础模型上训练，并使用 turbo LoRA 生成样本。这些增强功能旨在使在显存较少的硬件上进行模型训练更加容易，尽管一些大型模型如 Qwen 可能仍需要 6 位训练。 AI

影响 使更多 AI 模型能在消费级硬件上训练，可能降低 AI 开发的门槛。

排序理由 这是现有工具包的一个优化分支，并非新的前沿发布或重大的行业事件。

在 r/StableDiffusion 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

AI-toolkit 分支在低显存下增强模型训练

报道来源 [1]

  1. r/StableDiffusion TIER_2 English(EN) · /u/Incognit0ErgoSum ·

    优化ai-toolkit分支 -- 内存优化，使大多数模型在24GB或更少显存下训练，无需块交换或禁用样本推理；支持DoRA；支持推理LoRA（以便在基础模型上训练并在Turbo上生成样本）；更多模型支持min_snr_gamma；更多优化器选择

    <!-- SC_OFF --><div class="md"><p><a href="https://github.com/envy-ai/ai-toolkit-envy-optimize">https://github.com/envy-ai/ai-toolkit-envy-optimize</a></p> <p>Edit: I should have mentioned this in my title, but it specifically trains Krea 2 comfortably on a 4090 with no layer swa…

相关实体

相关话题