一个名为 Bonsai 27B 的新模型,由加州理工学院分拆出来的 Prism ML 公司开发,通过积极压缩 Qwen 3.6 模型而创建。这种压缩使得模型能够装进手机,将其大小从约 54GB 减少到 4GB 以下。虽然 Bonsai 的 1 位和三元版本在事实回忆方面表现不佳,但在编码任务上的表现与原始模型相当,甚至在创意代码生成方面也显示出潜力。 AI
影响 通过大幅减小模型尺寸,实现了设备端 AI 应用,但事实知识方面存在权衡。
排序理由 该项目讨论了一个可以在手机上运行的压缩模型,这是一个实际应用或工具,而不是前沿发布或重要研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →