LocallyAI

Ternary Bonsai 2 系列模型发布，基于 Qwen 3.5

Ternary Bonsai 2 是一个新系列语言模型，拥有 2B、4B 和 9B 参数规模，构建于 Qwen 3.5 架构之上。这些模型旨在可能提升标准 Qwen 3.5 模型的性能，特别是在内存和响应一致性等领域，解决了早期 Bonsai 模型中观察到的先前循环行为。Bonsai 2 系列需要一个特定的 llama.cpp 分支，并支持 dFlash、MTP 和 MLX 以增强性能。