English(EN) Sherry's 3:4 ternary format (1.375 bits per weight) running on WebGPU: a 1.6 MB model that plays Connect Four as well as its 7.8 MB int8 version

微型 1.6MB 模型以每权重 1.375 比特运行 Connect Four

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-29 23:16

Precisit 开发了一个 1.6 MB 的模型，其 Connect Four 表现与 7.8 MB 的 int8 版本相当。这个新模型采用了 Sherry 的 3:4 三进制格式，实现了每权重 1.375 比特，并通过 WebGPU 在浏览器中高效运行。研究表明，使用此格式进行训练对于最佳性能至关重要，因为训练后转换会显著降低模型的性能。 AI

影响展示了适用于 LLM 的重要模型压缩技术，实现了更小、更高效的部署。

排序理由介绍新模型格式及其应用的 연구 논문. [lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 3 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 介绍新模型格式及其应用的 연구 논문. [lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: model release, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

r/LocalLLaMA TIER_1 English(EN) · /u/Brilliant-Hall1387 · 2026-09-29 23:16

Sherry 的 3:4 三元格式（每权重 1.375 比特）在 WebGPU 上运行：一个 1.6 MB 的模型，其 Connect Four 表现与 7.8 MB 的 int8 版本相当

<div class="md">Not an LLM, but the ternary findings should carry over, and we hadn't seen Sherry-style 3:4 weights run in a browser before. Disclosure: this is our work at Precisit, everything is MIT. What it is <ul> <li>A 7.4M-param…

本文如何被排名

报道来源 [1]

Sherry 的 3:4 三元格式（每权重 1.375 比特）在 WebGPU 上运行：一个 1.6 MB 的模型，其 Connect Four 表现与 7.8 MB 的 int8 版本相当

相关实体

相关话题