Moonshot AI 发布 Kimi K3，一款 2.8T 参数的开放权重 MoE 模型

Moonshot AI 发布了 Kimi K3，这是一款拥有 2.8 万亿参数的开放权重混合专家（MoE）模型，是同类模型中首个提供公开权重的。该模型采用了 Kimi Delta Attention 和 Stable LatentMoE 框架，每个 token 仅激活一小部分参数以提高效率。Kimi K3 专为复杂的任务设计，如长时域编码、智能体工作流和推理，并可通过 Amazon SageMaker HyperPod 或 Amazon Elastic Kubernetes Service 在 AWS 上部署。 AI

影响 为开放权重 MoE 模型树立了新的标杆，有望加速大规模 AI 的自托管和研究。

排序理由 前沿实验室模型发布，附带系统卡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]

在 AWS Machine Learning Blog 阅读 →

• Amazon Elastic Kubernetes Service
• Amazon SageMaker HyperPod
• AWS
• Gated Multi Head Latent Attention
• Hugging Face
• Kimi Delta Attention
• Kimi K3
• Mixture of Experts
• Moonshot AI
• MXFP4
• NVIDIA B300 Blackwell Ultra GPUs
• Stable LatentMoE
• vLLM

• 模型发布
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →