实体
LFM2 24B A2B
LFM2 24B A2B
PulseAugur coverage of LFM2 24B A2B — every cluster mentioning LFM2 24B A2B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
探索参数量为 2B 的 MoE 模型以适应资源受限系统
r/LocalLLaMA 上的讨论探讨了约 20 亿活跃参数的混合专家(MoE)模型这一细分领域。虽然拥有 10 亿活跃参数的较小 MoE 模型和拥有 30 亿或更多活跃参数的较大模型更为常见,但 20 亿活跃参数的范围似乎讨论较少。其中重点介绍了 LFM2 24B A2B、Mellum 2 12B A2.5B、Moondream 3.1 9B A2B、VAETKI 20B A2B、DeepSeek V2 Lite 16B A2.4B…
-
Liquid AI 发布 LFM2-24B-A2B,一款高效的 24B 参数 MoE 模型
Liquid AI 发布了其 LFM2-24B-A2B 模型的早期检查点,这是一种稀疏专家混合(MoE)架构,总参数量为 240 亿,每个 token 激活参数量为 20 亿。该模型证明了 LFM2 架构能够有效地扩展到更大的规模,并且随着该系列的不断发展,在基准测试中观察到了持续的质量提升。LFM2-24B-A2B 设计为可容纳在 32GB RAM 中,旨在部署在云和边缘环境,包括消费级笔记本电脑和台式机。