Babak Hassibi

初创公司将 270 亿参数 AI 模型压缩至可在 iPhone 上运行

Khosla 投资的初创公司 PrismML 开发了一种方法，可以显著压缩大型 AI 模型，使其能够在 iPhone 等移动设备上运行。他们压缩后的阿里巴巴 Qwen 3.6 模型（拥有 270 亿参数）现在足够小（低于 4GB），可以在 iPhone 17 Pro 上运行，执行聊天、推理和编码等复杂任务。这项源自加州理工学院研究的突破旨在将 AI 处理从云端转移到本地设备，从而从根本上改变 AI 经济。