Prism ML
PulseAugur coverage of Prism ML — every cluster mentioning Prism ML across labs, papers, and developer communities, ranked by signal.
- 2026-07-04 product_launch Prism ML has released new versions of its Bonsai 27B model, including 1-bit and ternary weight variants optimized for different hardware. 来源
1 天有情绪数据
-
如何部署一个6GB的27B AI模型：配置与优化
Prism ML 详细介绍了如何部署一个270亿参数模型 Ternary Bonsai 2，该模型被压缩至仅6GB。该过程涉及运行时环境和模型参数的特定配置，以实现高效运行。主要挑战包括使用修改版的llama.cpp，管理模型内部的“思考”token（它们计入输出限制），以及选择适当的“reasoning_effort”级别以获得所需的答案长度和质量。此外，优化“max_in_flight”等设置对于同时处理多个用户请求至关重要。
-
Bonsai 27B 模型将 Qwen 3.6 压缩至手机大小，在代码任务上表现出色
一个名为 Bonsai 27B 的新模型，由加州理工学院分拆出来的 Prism ML 公司开发，通过积极压缩 Qwen 3.6 模型而创建。这种压缩使得模型能够装进手机，将其大小从约 54GB 减少到 4GB 以下。虽然 Bonsai 的 1 位和三元版本在事实回忆方面表现不佳，但在编码任务上的表现与原始模型相当，甚至在创意代码生成方面也显示出潜力。
-
Prism ML 发布三元 Bonsai 模型以供微调
Prism ML 已发布其三元 Bonsai 模型，并提供微调功能。此次发布包含示例代码，并建议在此过程中使用较高的学习率。这一进展为希望定制和适应这些特定 AI 模型的用户提供了新的选择。
-
Prism ML 发布紧凑型 Bonsai Image 4B 扩散模型
Prism ML 发布了 Bonsai Image 4B，这是一款利用三元权重实现显著尺寸缩减的文本到图像扩散模型。该模型提供两个版本：一个使用 MLX 针对 Apple Silicon 进行了优化，另一个使用 Gemlite 部署针对 NVIDIA GPU 进行了优化。尽管尺寸紧凑，该模型仍能实现快速生成速度，尽管用户指出文本渲染效果可能不佳，但其他图像方面却出奇地好。