深圳大学城、哈尔滨工业大学(深圳)与华为的合作项目成功在国产算力集群上完成了DeepSeek-V4-Pro模型的全参数训练。这标志着一项重大进展,表明中国的AI基础设施现在不仅能够进行推理和微调,还能处理超大模型的训练。该项目在昇腾910C集群上实现了超过1500步的稳定训练,模型计算利用率(MFU)超过30%,展示了在分布式训练、稀疏模型优化和长期训练稳定性方面的突破。这一成就不仅验证了国产AI硬件的能力,也为培养具备大规模模型开发技能的AI人才提供了实践训练场。 AI
影响 展示了国产AI基础设施训练前沿模型的能力日益增强,有望减少对外国硬件的依赖,促进本土AI发展。
排序理由 本文详细介绍了使用国产硬件训练大型AI模型的研究和开发成就,而非大型AI实验室发布的新模型或产品。 [lever_c_demoted from research: ic=1 ai=1.0]
- Ascend 910C
- Deep City AI Computing Platform
- DeepSeek-V4-Flash
- DeepSeek-V4-Pro
- Harbin Institute of Technology (Shenzhen)
- Huawei
- Huawei 2012 Laboratory
- Huawei Computing Product Line
- Huawei GTS
- Shenzhen Big Data Research Institute
- Shenzhen Riverfront College
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →