English(EN) An 87GB model ran on a CPU at 8 tok/s. Quantization did that.

87GB LLM 通过量化在 CPU 上运行；vecq 工具针对设备端嵌入

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-01 06:44

最近的一项基准测试表明，Qwen3.8-Flash-Next 大型语言模型（文件大小为 87.2 GiB）可以使用 llama.cpp 框架在 CPU 上以 8.34 tokens per second 的速度运行。这种性能是通过 4 位量化实现的，它显著减小了模型的大小。基准测试还显示，在 245K 的上下文长度下，96GB VRAM 相对于 24GB 的性能优势会减弱，并且将模型的嵌入表放在 GPU 上会极大地提高解码速度。为了解决类似设备端应用程序的大小限制，开发了 vecq 工具，它提供无需训练的向量量化，可实现高达 4.78 倍的嵌入大小缩减，同时保持高召回率。 AI

影响展示了模型量化和嵌入技术的重大进步，使得更大的模型可以在性能较弱的硬件上运行，并为设备端 AI 应用铺平了道路。

排序理由关于 LLM 量化和嵌入优化的基准测试和技术讨论。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 49 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 关于 LLM 量化和嵌入优化的基准测试和技术讨论。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Anaz S. Aji · 2026-09-01 06:44

一个87GB的模型在CPU上以8 token/秒的速度运行。量化做到了这一点。

<p>Someone on r/LocalLLaMA benchmarked Qwen3.8-Flash-Next in llama.cpp from CPU-only all the way to 96GB of VRAM. The model file is 87.2 GiB. On a plain CPU it decodes at 8.34 tok/s. With the full 96GB, 109 tok/s.</p> <p>The number that looks like a party trick is the CPU one. It…

本文如何被排名

报道来源 [1]

一个87GB的模型在CPU上以8 token/秒的速度运行。量化做到了这一点。

相关实体

相关话题