Microsoft AI 已完成其新型基础模型 MAI-Base-2 的预训练阶段。该模型是一个拥有 2.8 万亿总参数的混合专家网络。训练过程使用了 16,000 块 Nvidia GB200 GPU,历时 38 天,与其它模型相比,展示了显著的 FLOPs 效率。Microsoft 计划在训练后通过其 Foundry 平台将模型权重授权给可信赖的合作伙伴,目前未公布开放权重发布或具体发布细节。 AI
影响 为大规模模型训练效率树立了新标杆,并预示着向授权访问先进基础模型转变。
排序理由 Frontier-lab 模型发布,附带系统卡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →