PulseAugur
实时 20:17:34
English(EN) Gemma 4 26B in 2GB Is Real. The Headline Is Still Misleading.

Gemma 4 26B 模型在专用的 2GB 常驻内存配置下运行

一个名为 TurboFieldfare 的项目展示了 Google 的 Gemma 4 26B 模型的一种专用配置,该配置在 Apple Silicon 上使用了大约 2GB 的常驻内存。这是通过从 SSD 流式传输模型专家来实现的,而不是将整个模型保留在 RAM 中,这是 Gemma 4 的专家混合(Mixture-of-Experts)架构所支持的一种技术。虽然标题暗示了通用的 2GB 要求,但完整的系统仍需要至少 8GB 的 RAM,并且模型在 SSD 上占用约 14.3GB,性能因硬件而异。 AI

影响 展示了大型模型的新颖推理技术,有可能在消费级硬件上实现更高效的部署。

排序理由 该条目讨论了一个现有模型的特定技术实现细节和性能特征,而不是一个新的模型发布或官方基准测试。[lever_c_demoted from research: ic=1 ai=1.0]

在 Towards AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Gemma 4 26B 模型在专用的 2GB 常驻内存配置下运行

报道来源 [1]

  1. Towards AI TIER_1 English(EN) · Mia Efoxtech ·

    Gemma 4 26B in 2GB Is Real. The Headline Is Still Misleading.

    <p>Gemma 4 26B does not have a universal 2GB RAM requirement. TurboFieldfare reports a roughly 1.9–2.1GB footprint on Apple Silicon by keeping a 4K FP16 KV cache and shared model core resident while streaming routed experts from a 14.3GB SSD installation. The result is real, spec…