prism-ml/Ternary-Bonsai-27B-mlx-2bit

Prism ML 发布 Bonsai 1位和三元组格式模型

Prism ML 发布了其 Bonsai 27B 模型的两个版本：一个使用1位二进制权重，另一个使用三元组权重。1位 Bonsai 模型专为 iPhone 17 Pro Max 等移动设备优化，占用的空间显著减少，约为 3.9 GB，同时保留了约 90% 的 FP16 智能。三元组版本专为日常笔记本电脑设计，占用空间稍大，约为 7.2 GB，但实现了 95% 的 FP16 智能和更快的推理速度。