Moonshot AI 发布了 Kimi K3 模型，拥有 2.8 万亿开放权重，使其成为迄今为止最大的开放权重模型。然而，在这些参数中，只有一小部分，大约 1.8%，在处理每个 token 时被积极使用。这种稀疏性意味着，虽然该模型拥有庞大的参数数量，但实际的计算和内存需求与同等规模的密集模型相比要低得多，尽管仍然很大，需要大约 1488 GB 的 VRAM。 AI
影响 此次发布凸显了稀疏模型的发展趋势，有望降低大规模人工智能的推理成本和硬件要求。
排序理由 Frontier-lab 模型发布，附带系统卡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
