Kimi Linear
PulseAugur coverage of Kimi Linear — every cluster mentioning Kimi Linear across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Kimi Linear 48B A3B 模型提供 100 万上下文和快速性能
一款名为 Kimi Linear 48B A3B 的新型大型语言模型已经出现,它拥有 100 万个 token 的上下文窗口,并采用具有 480 亿参数的混合专家(Mixture-of-Experts)架构。用户报告称其运行速度很快,在速度上优于 Qwen 3.6 35B 等模型。虽然能够生成结构化内容,包括动画页面,但一些用户指出其响应可能比较简略,并建议可能需要进行微调以提高其推理或输出质量。
-
新的 EpiKV 方法优化 LLM KV 缓存,提高效率和上下文长度
一篇新研究论文介绍了一种名为 EpiKV 的方法,用于优化大型语言模型中的 KV 缓存淘汰。与依赖注意力权重的先前方法不同,EpiKV 使用源自模型内部表征变化的“顿悟分数”。这种方法避免了计算注意力矩阵的需要,能够实现融合内核集成,并显著提高上下文长度的处理能力。实验表明,EpiKV 在 MATH-500 和 AIME-2024 等基准测试中表现与基线相当或更优,同时提供了显著的速度提升。
-
中国大模型主导开源排名前十
最近的一项分析表明,目前排名前十的开源大型语言模型中有九个是中国开发的,Llama 是唯一一个仍在顶尖行列的非中国模型。这一转变归因于 GLM-5.2、DeepSeek-R1 和 Qwen3 等模型的发布,它们在编码、推理和多模态能力等各种基准测试中取得了最先进的性能。中国以外的开发者面临访问障碍,需要通过 haotokai.com 等第三方网关来使用这些强大的模型。
-
新方法加速线性 Transformer 的三角求逆
研究人员开发了一种新的三角求逆方法,这是 Qwen3.5/3.6 和 Kimi Linear 等高级模型使用的线性注意力机制中的关键操作。该技术显著提高了该子例程的速度和数值稳定性,而该子例程通常是性能瓶颈。实验表明,与现有实现相比,在 NPU 上速度提高了 4.3 倍,从而在不牺牲准确性的情况下实现了整体层性能的提升。