PrismML 开发了 Bonsai 27B,一个拥有 270 亿参数的多模态 AI 模型,已压缩至约 3.9 GB,使其能够在手机上运行。通过 1 位量化等技术实现的显著压缩,使该模型能够保留约 90% 的原始基准性能,在数学方面表现尤为突出。虽然该模型可以安装在高端智能手机上,但其实际日常使用仍受内存缓存和持续性能等因素的影响。 AI
影响 使更强大的 AI 应用能够直接在移动设备上运行,减少对云处理的依赖。
排序理由 这是一个模型压缩和优化公告,而非大型实验室发布的新前沿模型。
AI 生成摘要 · Google Gemini · 来自 5 个来源。 我们如何撰写摘要 →