PrismML 开发了一种新颖的压缩技术,可在保留大部分性能的同时显著减小大型语言模型的尺寸。他们最新的 Bonsai 2.27B 模型将 Alibaba 的 Qwen3.8 27B 模型压缩了 9-10 倍,使其足够小,可以在个人电脑甚至智能手机上运行。该公司由 Caltech 研究人员创立,旨在未来将这种“三元”权重压缩应用于更大的模型,从而实现更易于访问和更私密的 AI。 AI
影响 能够更有效地在边缘设备上部署先进的 AI 模型,可能提高可访问性和隐私性。
排序理由 这是来自一家专注于 LLM 压缩的初创公司的产品发布,而不是来自主要 AI 实验室的前沿模型发布。
- Alibaba Group
- Apple Inc.
- Babak Hassibi
- Berkeley
- Bonsai 2.27B
- California Institute of Technology
- Cerberus Capital Management
- Databricks
- Donostia International Physics Center
- Ion Stoica
- Khosla Ventures
- Multiverse Computing
- PrismML
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →