Olmo-core 3
PulseAugur coverage of Olmo-core 3 — every cluster mentioning Olmo-core 3 across labs, papers, and developer communities, ranked by signal.
- 2026-10-14 product_launch The Allen Institute for Artificial Intelligence released Olmo-core 3, an open-source training framework for its Olmo language models. 来源
- 2026-10-06 product_launch Allen Institute for Artificial Intelligence released Olmo-core 3, an open infrastructure for large-scale MoE model training. 来源
- 2026-10-01 product_launch The Allen Institute for Artificial Intelligence released Olmo-core 3, an open-source training infrastructure for large mixture-of-experts models. 来源
- 2026-10-01 product_launch Hugging Face released Olmo-core 3, an open-source framework for training large Mixture-of-Experts models. 来源
-
艾伦研究所发布 Olmo-core 3,提高 LLM 训练吞吐量
人工智能研究所 (Ai2) 发布了 Olmo-core 3,这是其 Olmo 语言模型的开源训练框架。新版本引入了分布式数据并行方法,取代了之前的全分片数据并行。这一改变通过确保每个 GPU 保留其模型分区,并且仅将选定的 token 行发送到相关专家,从而显著提高了吞吐量,并降低了与存储所有参数相关的“容量税”。
-
AI2 发布 Olmo-core 3,用于更快的 MoE 模型训练 · 已追踪 2 个来源
艾伦人工智能研究所 (AI2) 发布了 Olmo-core 3,这是一个专为大规模专家混合 (MoE) 模型训练设计的开放式基础设施。该新系统通过将专家常驻 GPU 来提高吞吐量,对于一个 47B 参数的模型,实现了超过 52,000 tokens/GPU/秒的吞吐量,比之前的实现提高了 2.7 倍。Olmo-core 3 还通过 MXFP8 实现了 21% 的训练吞吐量提升,同时减少了内存使用。该基础设施旨在作为未来 Olmo 模型…
-
AI2 发布 Olmo-core 3 开源 MoE 训练基础设施
艾伦人工智能研究所(AI2)发布了 Olmo-core 3,这是一个专为大型混合专家(MoE)模型设计的开源训练基础设施。该系统是未来 Olmo 模型开发的基础,能够扩展到万亿参数规模。此次发布包括该基础设施的 GitHub 存储库。
-
Hugging Face 发布 Olmo-core 3,用于可扩展的万亿参数 MoE 训练
Hugging Face 发布了 Olmo-core 3,这是一个开源框架,旨在将专家混合(MoE)大语言模型的训练扩展到万亿参数规模。该新系统通过优化专家路由和跨 GPU 分布,解决了训练大型 MoE 所面临的计算效率低下和高成本问题。基准测试表明,Olmo-core 3 显著提高了训练吞吐量,与之前的实现相比,性能最高可提高 2.7 倍,同时即使在拥有大量专家的情况下也能保持计算效率。