PulseAugur
实时 01:52:58
English(EN) I extended Gemma4-31B to 44B (88 layers) — since Google won't give us anything bigger than 31B

用户将 Google 的 Gemma4-31B 扩展到 44B 参数

一位用户通过将 Google 的 Gemma4-31B 模型层数从 60 增加到 88,成功将其扩展到 440 亿参数。此修改通过反复试验和特定的层标量修复实现,旨在为新的数据领域创造更多容量。用户正在寻求合作以改进模型的编码和工具调用能力,并对进一步的架构扩展持开放态度。 AI

影响 展示了社区驱动的模型扩展,并强调了通过架构修改增加参数数量的潜力。

排序理由 用户驱动的现有模型修改,并非第一方发布。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

用户将 Google 的 Gemma4-31B 扩展到 44B 参数

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Desperate-Sir-5088 ·

    我将Gemma4-31B扩展到了44B(88层)——因为谷歌不提供比31B更大的模型

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1ul0cx9/i_extended_gemma431b_to_44b_88_layers_since/"> <img alt="I extended Gemma4-31B to 44B (88 layers) — since Google won't give us anything bigger than 31B" src="https://preview.redd.it/qbkvzo4s3pah1.png?w…