实体
2.8T
2.8T
PulseAugur coverage of 2.8T — every cluster mentioning 2.8T across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Kimi K3 的 2.8T 参数凸显了大型语言模型部署作为一项系统工程挑战
Kimi K3 模型拥有 2.8 万亿总参数，每个 token 约有 1040 亿活跃参数，其部署挑战远超其庞大的规模。其架构融合了混合专家（mixture-of-experts）设计和原生多模态支持，上下文窗口超过一百万个 token。至关重要的是，该模型使用低精度 MXFP4 权重和 MXFP8 激活进行训练，这意味着量化是其推理路径的内在组成部分，而非事后考虑。这需要能够高效执行这些原生格式的专用硬件，目前的 vLLM 指导建议…
-
Moonshot AI 发布 Kimi K3，最大的开源模型，支持 1M 上下文 · 跟踪 1 个来源
Moonshot AI 推出了 Kimi K3，这是一款新的开源前沿模型，拥有 2.8 万亿参数和 100 万个 token 的上下文窗口。该模型具有原生的多模态输入能力和新颖的 Kimi Delta Attention 机制，可实现更快的解码。虽然 Kimi K3 在编码基准测试中取得了顶级排名，在特定领域超越了 Claude Fable 5 和 GPT-5.6 Sol 等模型，但其开发者承认与这些领先的闭源模型相比，在用户体验方面存在差距。