实体
Silia
Silia
PulseAugur coverage of Silia — every cluster mentioning Silia across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
时间线
- 2026-07-07 product_launch A 117 million parameter Silia model was trained and released. 来源
最近 · 第 1/1 页 · 共 2 条
-
117M Silia 模型在 H100 上 5 小时内训练完成
一个拥有 1.17 亿参数的 Silia 模型仅用 5 小时就在 H100 GPU 上训练完成，使用了 synth-100M 数据集。该模型的架构在研究论文中有详细介绍，包括多头注意力和旋转位置嵌入。尽管训练速度很快，但由于数据集大小和学习率有限，该模型被认为训练不足，尽管一个参数量为 1150 万的较小 Silia 模型在验证损失方面表现与 nanoGPT 相当。
-
学生提出 Silia Transformer 以实现参数高效的小型模型
一名学生研究员推出了一种名为“Silia”的新型 Transformer 架构，专为参数量低于 1000 万的模型设计，以实现参数效率。该架构旨在将注意力机制的动态混合与前馈网络的强非线性结合到单个操作中。尽管由于硬件限制实验受限，但实验表明 Silia 在参数量显著减少的情况下达到了与 GPT-2 相当的性能。