据报道,Moonshot 的 Kimi K3 模型在推理时仅激活 896 个可用专家中的 16 个,这表明效率可能有所提高。该公司声称,与前代 K2 相比,这种新架构的扩展性提高了 2.5 倍。然而,由于尚未发布权重,目前无法对这些说法进行外部验证,预计将在 7 月 27 日左右发布更多信息。 AI
影响 更高效的 LLM 架构和改进的扩展性有可能加速在资源受限环境中的部署。
排序理由 Moonshot 的 Kimi K3 模型发布,附带系统卡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →