English(EN) [Release] SOTA GGUFs for Qwen3.8-27B: GSQ-RCO at 2.5 to 3.0 bpw

新的 Qwen3.8-27B GGUF 模型在低比特率下达到 SOTA 精度

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-28 21:46

研究人员发布了 Qwen3.8-27B 的新 GGUF 量化模型，采用了 GSQ（Gumbel-Softmax 量化）和 RCO（黎曼约束优化）技术。这些方法旨在提高模型在较低比特率（2.5 至 3.0 bpw）下的质量和精度，同时保持与先前量化相同的模型文件大小。据报道，新模型在 AIME25、GPQA-Diamond 和 LiveCodeBench 等基准测试中的精度方面，与 Qwen3.8-27B 现有的 GGUF 量化模型相当或超出。 AI

影响为量化模型提供了更高的精度，有可能在消费级硬件上更有效地部署大型语言模型。

排序理由发布采用新方法和基准测试结果的量化模型。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 1 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 发布采用新方法和基准测试结果的量化模型。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: model release, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

r/LocalLLaMA TIER_1 English(EN) · /u/Loginhe · 2026-08-28 21:46

[发布] Qwen3.8-27B 的 SOTA GGUFs：GSQ-RCO 在 2.5 至 3.0 bpw

<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1w13vse/release_sota_ggufs_for_qwen3827b_gsqrco_at_25_to/"> <img alt="[Release] SOTA GGUFs for Qwen3.8-27B: GSQ-RCO at 2.5 to 3.0 bpw" src="https://preview.redd.it/e0zubsoj16mh1.png?width=640&crop=smart&am…

本文如何被排名

报道来源 [1]

[发布] Qwen3.8-27B 的 SOTA GGUFs：GSQ-RCO 在 2.5 至 3.0 bpw

相关实体

相关话题