实体
MoonEP
MoonEP
PulseAugur coverage of MoonEP — every cluster mentioning MoonEP across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
时间线
- 2026-07-30 product_launch Moonshot AI open-sourced the MoonEP library, an expert parallelism communication library for MoE training. 来源
最近 · 第 1/1 页 · 共 3 条
-
Moonshot AI 开源 MoonEP 库以实现高效的 MoE 模型训练
Moonshot AI 发布了 MoonEP,这是一个开源库,旨在优化训练过程中专家混合(MoE)模型的通信。该库解决了专家之间令牌分布不平衡可能导致训练速度变慢的挑战。MoonEP 通过动态规划和预取冗余专家来实现完美平衡,从而提高了 Kimi K3 等大型模型的扩展效率。
-
Moonshot AI 开源 Kimi K3 模型,拥有 2.8T 参数和 1M 上下文
Moonshot AI 已正式开源其 Kimi K3 模型,发布了模型权重和技术报告。该公司还提供了训练 Kimi K3 所使用的关键基础设施技术 MoonEP、FlashKDA 和 AgentEnv。这款新模型是一个拥有 2.8 万亿参数的混合专家(MoE)模型,具备原生视觉理解能力和 100 万 token 的上下文窗口,可供公众免费下载和部署。
-
月之暗面 (Moonshot AI) 发布2.8T参数Kimi K3模型,开源关键基础设施
月之暗面 (Moonshot AI) 已开源其Kimi K3模型,该模型拥有2.8万亿参数,并扩展了混合专家(MoE)架构。此次发布包括模型权重、技术报告以及MoonEP和AgentEnv等关键基础设施技术。该公司还强调了相比前代K2,可将扩展效率提高2.5倍的优化。