K2 Horizon 系列 AI 模型已发布,Artificial Analysis 的性能指标显示,3.7B 和 7B 参数模型是顶尖的,而 0.9B 和 375B 模型效果较差。36B A4B 模型被认为在内存带宽较差的硬件上具有竞争力。然而,分析强调了 K2 Horizon 模型 KV 缓存设计的一个重大缺点,这对其 RAM 需求和整体性能产生了负面影响,使得其他模型可能成为更好的选择,具体取决于可用的硬件和所需的上下文长度。 AI
影响 强调了新模型在 KV 缓存设计方面存在的潜在局限性,影响了硬件兼容性和性能比较。
排序理由 发布了新的 AI 模型,并附有详细的性能分析和技术评论。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →