一名学生开发者创建了一个名为 ApexW 的新 PyTorch 优化器,旨在减少 CUDA 内核启动开销以加快训练速度,尤其是在较低端的 GPU 上。使用 NVIDIA T4 上的 Stable Diffusion 1.5 LoRA 训练进行的初步基准测试显示,与标准的 AdamW 优化器相比,速度提高了 6.3%。开发者正在寻求拥有更强大硬件的用户提供反馈和独立基准测试,以评估 ApexW 在包括完整微调和 LLM 训练在内的更广泛训练任务中的性能。 AI
影响 有望在消费级硬件上实现更快的 AI 模型训练。
排序理由 该集群描述了一个用于提高训练速度的新软件工具(优化器),而不是核心 AI 模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →