Ternary Bonsai 2,一个拥有270亿参数的语言模型,已在 Hugging Face 上发布。该模型源自 Qwen3.8-27B,并采用三元权重,使其大小小于6GB,比其 FP16 版本小9倍,同时保持了98.2%的智能水平。该模型能够使用 WebGPU 在网页浏览器中本地运行。 AI
影响 使得强大的语言模型能够在消费级硬件和浏览器中运行。
排序理由 发布了一个采用新颖压缩技术的新语言模型。 [lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →