Prism ML 发布了其 Bonsai 27B 模型的两个版本：一个使用1位二进制权重，另一个使用三元组权重。1位 Bonsai 模型专为 iPhone 17 Pro Max 等移动设备优化，占用的空间显著减少，约为 3.9 GB，同时保留了约 90% 的 FP16 智能。三元组版本专为日常笔记本电脑设计，占用空间稍大，约为 7.2 GB，但实现了 95% 的 FP16 智能和更快的推理速度。 AI
影响 这些高度压缩的模型可以在边缘设备和标准笔记本电脑上实现强大的 AI 功能，从而扩大了可访问性。
排序理由 该集群详细介绍了 Prism ML 发布的新 AI 模型，包括特定版本及其技术规格。
在 Hugging Face Trending Models 阅读 →
- Google Colab
- Jan
- Kaggle
- llama.cpp
- llama-cpp-python
- LM Studio
- Ollama
- prism-ml/Ternary-Bonsai-27B-gguf
- Ternary-Bonsai-27B-F16.gguf
- Unsloth Studio
- vLLM
- prism-ml/Bonsai-27B-gguf
- Hermes Agent
- Hugging Face
- Mlx
- OpenClaw
- prism-ml/Bonsai-27B-mlx-1bit
- prism-ml/Ternary-Bonsai-27B-mlx-2bit
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →
