English(EN) A 27-Billion-Parameter AI Just Moved Onto a Phone

AI模型在iPhone上运行，将270亿参数压缩至4GB以下

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-20 01:34

PrismML是一家从加州理工学院分拆出来的初创公司，开发了Bonsai 27B，一个拥有278亿参数的AI模型，能够处理文本和图像，并可直接在iPhone上运行。这是通过一种极端的量化技术实现的，将大多数参数压缩至单个比特，从而将模型的内存占用显著缩小至4GB以下，同时保留了90%以上的原始性能。虽然事实回忆能力受到影响，但推理和编码能力依然强大，并且设备端运行提供了零查询成本、增强的隐私和离线功能等优势，吸引了包括Apple在内的公司关注。 AI

影响使得在消费设备上运行私密、离线的AI应用成为可能，可能改变对云的依赖。

排序理由发布了具有重大技术创新、支持设备端运行的AI模型。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · RDInnovate · 2026-07-20 01:34

一个拥有270亿参数的AI已成功部署到手机上

<p>For the last few years, the deal has felt permanent. The powerful AI models live in giant data centres, humming behind racks of Nvidia chips, and your phone is just a window into them. Every clever answer travels a round trip to a server farm and back. The assumption underneat…

报道来源 [1]

一个拥有270亿参数的AI已成功部署到手机上

相关实体

相关话题