Megatron
PulseAugur coverage of Megatron — every cluster mentioning Megatron across labs, papers, and developer communities, ranked by signal.
-
孩之宝发布带有“The Touch”的详细领导力矩阵玩具
孩之宝发布了一款新的、专用的领导力矩阵玩具复制品,取材自《变形金刚:电影版》。这款大型、精细的复制品具有模仿电影能量效果的明亮脉冲灯光,并包含各种音效。值得注意的是,打开时会播放标志性的歌曲“The Touch”,并且可以通过USB-C或3节AA电池供电。该玩具售价139.99美元,推荐给粉丝,将于今年8月上市。
-
孩之宝推出标志性角色AI版本,伴随安全担忧
孩之宝推出了12个知名角色的AI驱动版本,例如变形金刚系列的擎天柱和威震天。该公司将其标志性人物引入人工智能领域,专家们在警告潜在的儿童风险的同时,也肯定了其娱乐价值。
-
中国AI创造AI:ForgeTrain框架训练MiniCPM5-1B模型
中国AI公司MiniMax开发了ForgeTrain,一个完全由AI生成的全新预训练框架,并成功训练了一个名为MiniCPM5-1B的新型小型模型。该框架据称在训练速度上比NVIDIA的Megatron快10%,并提供了一种名为Forge Engineering的新软件范式,强调为特定模型和硬件定制代码生成。拥有10亿参数的MiniCPM5-1B模型,在其尺寸下展现出高智能密度,并专为边缘设备的有效部署而设计,展示了向更小、更强大AI…
-
新型运行时提升流水线并行AI训练效率
研究人员开发了一个名为“就绪性优先流水线运行时”(RRFP)的新型运行时系统,旨在提高使用流水线并行进行大模型训练的效率。当任务就绪性偏离预设计划时,传统系统可能会出现空闲时间和利用率降低的问题。RRFP通过将计划视为灵活的提示而非严格的指令来解决这个问题,使各个阶段能够更早地执行可用工作。在多达128个GPU上的评估显示,RRFP在多模态工作负载上的训练速度比现有方法快2.77倍,实现了显著的加速。