Ternary Bonsai 2模型系列,包含2B、4B和9B参数版本,已在Hugging Face上发布。最小的2B模型能够完全在网页浏览器中运行,使用自定义WebGPU内核在M4 Max芯片上可达到每秒500个token的速度。此次发布为本地和基于浏览器的AI应用提供了新的选择。 AI
影响 为本地和基于浏览器的AI应用提供了一个新的、高效的模型。
排序理由 发布了一个新的开源模型系列,并附有性能细节。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →