Moonshot AI 发布了 Kimi K3,这是一款拥有 2.8 万亿参数和 100 万 token 上下文窗口的新旗舰模型。这款开源模型代表了规模上的重大成就,其效率比前代 Kimi K2 提高了 2.5 倍。技术报告详细介绍了 Kimi K3 的创新架构,包括 Kimi Delta Attention (KDA) 和 Gated MLA with No Position Encoding (NoPE),这些技术实现了其令人印象深刻的规模和长上下文能力。 AI
影响 为开源模型的规模和效率树立了新的标杆,有望加速长上下文窗口模型的研究和开发。
排序理由 前沿实验室模型发布,附有技术报告和开源可用性。[lever_c_demoted from frontier_release: ic=2 ai=1.0]
在 X — Together (inference / OSS) 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →