研究人员开发了聚光灯(Spotlight),一个旨在显著降低强化学习扩散Transformer(DiTs)训练后成本的新颖系统。通过利用对探索容忍度的洞察以及序列并行(SP)组的高效重新配置,聚光灯有效地利用了廉价的Spot GPU。该系统引入了基于老虎机(bandit-based)的探索规划、弹性序列并行和预占感知调度等技术,以维持训练的连续性和状态。 AI
影响 降低了训练先进图像生成模型的计算成本,可能加速该领域的研究和开发。
排序理由 该集群包含一篇详细介绍新系统和方法的学术论文。
- DeepSeek OCR
- Diffusion Transformer
- graphics processing unit
- Qwen Image
- reinforcement learning
- Sequence Parallelism
- Spotlight
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →