Ternary Bonsai 2 是一个新系列语言模型,拥有 2B、4B 和 9B 参数规模,构建于 Qwen 3.5 架构之上。这些模型旨在可能提升标准 Qwen 3.5 模型的性能,特别是在内存和响应一致性等领域,解决了早期 Bonsai 模型中观察到的先前循环行为。Bonsai 2 系列需要一个特定的 llama.cpp 分支,并支持 dFlash、MTP 和 MLX 以增强性能。 AI
影响 为本地部署提供比基础 Qwen 3.5 模型可能更优的性能和一致性。
排序理由 基于现有架构发布新系列语言模型。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →