PulseAugur
中
实时 14:52:16
实体 Motif-Technologies/Motif-3-Beta

Motif-Technologies/Motif-3-Beta

PulseAugur coverage of Motif-Technologies/Motif-3-Beta — every cluster mentioning Motif-Technologies/Motif-3-Beta across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. SIGNIFICANT · CL_153600 ·

    Motif Technologies发布具有256K上下文的Motif-3-Beta MoE模型

    Motif Technologies发布了其大规模混合专家（MoE）语言模型Motif-3-Beta的测试版。该模型为内部开发，拥有约3140亿总参数，每个token有130亿活跃参数，并支持256,000个token的原生上下文长度。该模型采用稀疏路由机制，拥有384个专家，每个token激活8个专家加上一个共享专家。提供了与Transformers等流行库以及vLLM和SGLang等推理引擎集成的指令和代码，并支持Docker部署。