ISTA GSQ-RCO 发布了 DeepSeek-V4.1-Flash-1017 模型的量化版本，提供 1.75 至 2.25 比特/权重（bits per weight）的 GGUF 格式。这些量化模型在性能上与原始模型相当，其中一个版本（IQ2_XXS）达到了基础模型基准分数 100%。此次发布采用了 GSQ（Gumbel-Softmax 量化）和 RCO（Riemannian Constrained Optimization）技术进行高效量化，使得模型可以在单块 12GB GPU 上运行。 AI
影响 提供了大型语言模型更易于访问的版本，可能使其在消费级硬件上得到更广泛的应用。
排序理由 量化模型权重及相关量化技术的发布。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
