PulseAugur
实时 22:38:45
实体 270 million parameter language model

270 million parameter language model

PulseAugur coverage of 270 million parameter language model — every cluster mentioning 270 million parameter language model across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_126626 ·

    独立研究者从零开始构建2.7亿参数语言模型

    一位独立研究者从零开始开发了一个拥有2.7亿参数的语言模型。该模型采用了自定义Transformer架构,集成了旋转位置嵌入(Rotary Positional Embeddings)、RMSNorm、SwiGLU前馈层和分组查询注意力(grouped query attention)等特性。它针对高效的自回归解码进行了优化,以便于本地推理。