月之暗面发布Kimi K3，全球首个3T参数开源模型

月之暗面（Moonshot AI）已正式发布Kimi K3，这是一个拥有2.8万亿参数的开源模型。该模型采用了Kimi Delta Attention和Attention Residuals技术，原生支持视觉理解，并拥有100万token的上下文窗口。Kimi K3专为长文本编程和推理等高级智能场景设计，被定位为全球首个3万亿参数级别的开源模型。 AI

影响 在参数量和上下文窗口方面为开源模型树立了新标杆，有望加速长上下文AI应用的研发。

排序理由 Frontier-lab model release with system card. [lever_c_demoted from frontier_release: ic=1 ai=1.0]

在 36氪 (36Kr) 阅读 →

• Attention Residuals
• Kimi Delta Attention
• Kimi K3
• Moonshot AI

• 模型发布
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →