PulseAugur
中
实时 21:12:43
English(EN) PrismML Releases Bonsai 27B: 1-bit and Ternary Builds of Qwen3.6-27B That Run on Laptops and Phones

PrismML 发布 Bonsai 27B，使 Qwen3.6-27B 可在笔记本电脑和手机上运行

作者 PulseAugur 编辑部 · [2 个来源] ·

PrismML 发布了 Bonsai 27B，这是 Qwen3.6-27B 的高度压缩版本，有 1 位和三元变体。这些模型旨在在笔记本电脑和手机等消费级硬件上运行，其中 1 位版本仅需 3.9GB，三元版本需要 5.9GB。尽管经过了激进的压缩，三元模型仍保留了原始 FP16 模型约 94.6% 的性能，而 1 位版本则保留了 89.5%，使其适用于需要大上下文窗口和高效内存使用的应用程序。 AI

影响 通过大幅减小内存占用，使大型语言模型能够在消费设备上运行，可能加速本地 AI 的部署。

排序理由 来自实验室（PrismML）的模型发布，具有特定的性能指标和硬件目标。[lever_c_demoted from frontier_release: ic=2 ai=1.0]

在 MarkTechPost 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

PrismML 发布 Bonsai 27B，使 Qwen3.6-27B 可在笔记本电脑和手机上运行

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Significant
来自实验室（PrismML）的模型发布，具有特定的性能指标和硬件目标。[lever_c_demoted from frontier_release: ic=2 ai=1.0]
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
45 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [2]

  1. MarkTechPost TIER_1 English(EN) · Asif Razzaq ·

    PrismML 发布 Bonsai 27B：Qwen3.6-27B 的 1 位和三元版本，可在笔记本电脑和手机上运行

    <p>PrismML just released Bonsai 27B. It is a low-bit representation of Qwen3.6-27B, not a new pretrain. The architecture is unchanged. Two variants ship under Apache 2.0. Ternary Bonsai 27B uses {−1, 0, +1} weights at a true 1.71 bits per weight. Its ideal size is 5.9GB. 1-bit Bo…

  2. Mastodon — fosstodon.org TIER_1 (BG) · [email protected] ·

    Qwen 3.6 27b 在 llama.cpp 的 8-12gb vram 上支持高达 256k 上下文 两个模型 prism-ml/Ternary-Bonsai-27B-gguf 和 prism-ml/Bonsai-27B-gguf 已发布 模型采用 2 位表示

    Qwen 3.6 27b на 8-12gb vram в llama.cpp до 256к контекста Вышло 2 модели prism-ml/Ternary-Bonsai-27B-gguf и prism-ml/Bonsai-27B-gguf Модели представлены в 2-битном и 1-битном вариантах и занимают всего 7,2 и 3,8 ГБ соответственно. Но самое интересное здесь не размер, а качество п…

    链接 habr.com/…/1059792

相关实体

相关话题