Cerberus Capital Management

PrismML 缩小 LLM 以用于 PC 和智能手机，性能保留率达 98%

PrismML 开发了一种新颖的压缩技术，可在保留大部分性能的同时显著减小大型语言模型的尺寸。他们最新的 Bonsai 2.27B 模型将 Alibaba 的 Qwen3.8 27B 模型压缩了 9-10 倍，使其足够小，可以在个人电脑甚至智能手机上运行。该公司由 Caltech 研究人员创立，旨在未来将这种“三元”权重压缩应用于更大的模型，从而实现更易于访问和更私密的 AI。