English(EN) Unsloth just dropped MTP GGUF weights for Gemma 4!

Unsloth 发布 Gemma 4 MTP GGUF 权重以供本地使用

作者 PulseAugur 编辑部 · [1 个来源] · 2026-06-05 15:02

Unsloth 发布了 Gemma 4 模型的新 MTP GGUF 权重，提供 Q8、F16 和 BF16 格式的版本。这些权重适用于 31B、26B-A4B 和 12B 参数大小。此次发布为在本地运行 Gemma 4 的用户提供了增强的选项。 AI

影响为使用优化权重在本地运行 Gemma 4 提供了新选项。

排序理由以特定格式（GGUF）发布模型权重以供本地 LLM 使用。 [lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

r/LocalLLaMA TIER_1 English(EN) · /u/okoyl3 · 2026-06-05 15:02

Unsloth just dropped MTP GGUF weights for Gemma 4!

<div class="md">It appears like Unsloth pushed MTP GGUF weights (Q8, F16, BF16) for 31B, 26B-A4B, 12B. <a href="https://huggingface.co/unsloth/gemma-4-31B-it-GGUF/tree/main/MTP">https://huggingface.co/unsloth/gemma-4-31B-it-GGUF/tree/main/MTP</a> <…