美团正式发布了LongCat-2.0,一个拥有1.6万亿总参数、每个token激活参数约480亿的大规模MoE语言模型。该模型完全在AI ASIC超级计算集群上训练,耗费数百万加速器小时和超过35万亿token,展示了在替代硬件上进行前沿规模训练的能力。LongCat-2.0引入了LongCat稀疏注意力机制,并在数千亿token上进行了训练,拥有100万token的上下文窗口,提升了其在编码和代理任务上的性能。 AI
影响 此次发布展示了在替代硬件上的先进训练能力以及上下文窗口的显著增加,可能影响未来大模型的开发。
排序理由 美团前沿实验室模型发布,附带系统卡。[lever_c_从前沿发布降级:ic=2 ai=1.0]
在 Hugging Face Trending Models 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →