研究人员开发了Primus Projection,一个旨在优化分布式大语言模型(LLM)训练复杂配置的新系统。该系统结合了混合投影引擎(测量和模拟GPU性能)和自动化调优代理。调优代理利用投影引擎作为快速评分预言机,探索巨大的配置空间,显著减少了此类过程中通常涉及的试错。Primus Projection在Llama 3.1和Mixtral 8x22B等模型上进行了验证,在性能预测方面表现出高准确性,并在一个案例研究中实现了Mixtral 8x22B的吞吐量提高27%。 AI
影响 自动化并加速大模型训练配置,可能降低成本并加快模型开发速度。
排序理由 该集群包含一篇详细介绍优化大模型训练新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Anshu Raina
- arXiv
- Hugging Face
- Llama 3.1
- Mixtral 8x22B
- Primus Projection
- Primus Tuning Agent
- Qwen3-235B-A22B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →