PulseAugur
中
实时 02:45:21
English(EN) PrismML Releases Bonsai 27B: 1-bit and Ternary Builds of Qwen3.6-27B That Run on Laptops and Phones

PrismML 发布 Bonsai 27B，一款适用于笔记本电脑和手机的 1 位模型

作者 PulseAugur 编辑部 · [1 个来源] ·

PrismML 发布了 Bonsai 27B，这是 Qwen3.6-27B 的高度压缩版本，专为在消费级硬件上高效运行而设计。该模型采用三元和 1 位权重表示，分别将模型大小减至 5.9GB 和 3.9GB，同时保留了原始模型相当一部分的性能。这些低位构建版本是多模态的，并支持大上下文窗口，使其适用于内存有限的设备，如笔记本电脑和手机。 AI

影响 使在内存有限的消费设备上运行大型语言模型成为可能，可能拓宽其可访问性和用例。

排序理由 发布了新颖的高度压缩模型变体，并附有性能指标。[lever_c_demoted from research: ic=1 ai=1.0]

在 MarkTechPost 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

PrismML 发布 Bonsai 27B，一款适用于笔记本电脑和手机的 1 位模型

报道来源 [1]

  1. MarkTechPost TIER_1 English(EN) · Asif Razzaq ·

    PrismML 发布 Bonsai 27B：Qwen3.6-27B 的 1 位和三元版本，可在笔记本电脑和手机上运行

    <p>PrismML just released Bonsai 27B. It is a low-bit representation of Qwen3.6-27B, not a new pretrain. The architecture is unchanged. Two variants ship under Apache 2.0. Ternary Bonsai 27B uses {−1, 0, +1} weights at a true 1.71 bits per weight. Its ideal size is 5.9GB. 1-bit Bo…

相关实体

相关话题