实体 801-30B-A3B-Base

801-30B-A3B-Base

PulseAugur coverage of 801-30B-A3B-Base — every cluster mentioning 801-30B-A3B-Base across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

时间线

2026-11-15 research_milestone Researchers detail the application of recursive self-improvement to AI pre-training, resulting in the 801-30B-A3B-Base model. 来源

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_359153 · Nov 15 · 11:21

研究人员将递归自我改进应用于 AI 预训练

研究人员已将递归自我改进（RSI）应用于 AI 模型开发的预训练阶段，这是一种新颖的方法，与以往侧重于训练后增强的工作不同。这篇论文详细介绍了这种新方法，它将复杂的预训练过程分解为更小、可管理的循环，以迭代地改进整个系统，包括数据管道和训练基础设施。其成果是 801-30B-A3B-Base 模型，这是一个拥有 300 亿参数的混合专家模型，在三个月内使用 11.8 万亿个 token 进行训练。该基础模型表现强劲，优于几个可比模型，…