Moonshot 发布了 Kimi K3 的权重，这是一个拥有 2.8 万亿参数的庞大 MoE 模型，并附有技术报告。该模型专为长远编码和大型上下文任务设计，以其先进的架构而闻名，但由于其规模庞大，目前不适合家庭使用。与此同时，Thinking Machines 推出了 Inkling-Small，这是一个拥有 2760 亿总参数和 120 亿激活参数的较小 MoE 模型，提供多模态能力和 100 万个 token 的上下文窗口，尽管它也需要大量的硬件资源才能有效运行。 AI
影响 拥有 2.8T 参数的 MoE 模型 Kimi K3 的发布，拓展了开放权重模型的边界，而 Inkling-Small 则以一种更易于获取但仍具挑战性的方式提供了多模态能力。
排序理由 该集群包含新的大型语言模型（Kimi K3、Inkling-Small）的公告，以及来自各自实验室（Moonshot、Thinking Machines）的相关技术细节和权重发布。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
