Gemma 4 - 26B-A4B
PulseAugur coverage of Gemma 4 - 26B-A4B — every cluster mentioning Gemma 4 - 26B-A4B across labs, papers, and developer communities, ranked by signal.
- 2026-10-23 product_launch A new, more efficient variant of the Gemma model was announced. 来源
7 天有情绪数据
-
Diffusion Gemma:融合因果与扩散机制的混合大模型
Diffusion Gemma 是一个新颖的大模型,它结合了因果和非因果机制,构建在 Gemma-4-26B-A4B 模型之上。与预测 token 的传统因果大模型不同,Diffusion Gemma 利用类似 Stable Diffusion 的图像生成 AI 的扩散模型,批量输出 token。这种混合架构首先编码输入查询,然后使用扩散解码器来优化 token 生成,从而实现更复杂、可能更高质量的输出过程。
-
MAPLE 项目声称 26B LLM 在 6GB GPU 上运行速度提升 6 倍
一个名为 MAPLE 的新开源项目声称,它已将 Gemma 4 26B-A4B 大型语言模型优化,使其能在配备 6 GB 显存的消费级 RTX 4050 笔记本 GPU 上以每秒 45.4 个 token 的速度运行。与原始模型相比,这是一个显著的速度提升,据报道原始模型在不同条件下仅能达到每秒 6.9 个 token。然而,这一说法需要仔细审视,因为 MAPLE 模型经过了剪枝,并且在 GPU 上使用了全部 30 层,而原始模型则有…
-
用户将 AI 图像模型更新至 MOSS,并由 Gemma 4 增强
一位用户已将其本地 AI 图像模型从 SDXL 更新至 MOSS,并利用 Gemma 4 26B-A4B 模型进行提示增强。用户分享了他们用于生成带有神秘生物主题棋子的国际象棋图的提示,并对结果表示满意。
-
Nemotron Labs发布Dory1.0-4B循环语言模型
Nemotron Labs发布了Dory1.0-4B,一个拥有40亿参数的语言模型,它采用了新颖的循环架构。该设计通过多次应用共享层块,有效地用推理计算换取更好的性能,从而提高了模型的准确性和令牌效率。Dory1.0-4B在各种基准测试中,尤其是在编码和智能体任务上,表现优于更大的模型,并且其检查点现已公开可用。
-
开源 Apriel Voice 27B 模型集成了语音、推理和工具使用
研究人员推出了 Apriel Voice 27B 预览版,这是一个开源的语音语言模型,旨在统一的框架内处理语音识别、推理和工具使用。该模型基于 Gemma 4 26B-A4B 检查点构建,采用了新颖的两阶段训练过程,包括在线蒸馏以有效适应语音输入。Apriel Voice 在 Big Bench Audio 和 Speech-BFCL 等各种音频基准测试中表现强劲,同时在 τ-Voice 上也实现了显著的任务成功率,且延迟相对较低。
-
通过优化专家使用在 16GB Mac 上运行大型 AI 模型
一份技术指南解释了如何在 GPU 内存有限的消费级硬件上运行大型混合专家(MoE)AI 模型,特别是 16GB Mac mini。作者演示了 MoE 模型并非同时使用其所有参数,这允许选择性地将最常用的“专家”加载到 GPU 上。通过分析使用模式,作者发现 Google 的 Gemma 4 26B-A4B 模型可以通过每层加载 128 个专家中的 80 个来有效地在 16GB Mac 上运行,而较大的 Qwen3.5 122B 模型由…
-
BottleCap AI 发布 ThinkingCap,将 Gemma 4 推理 token 减少 38.9%
BottleCap AI 发布了 ThinkingCap,这是 Google 的 Gemma 4 26B-A4B 模型的一个微调版本,旨在显著减少推理 token。平均而言,ThinkingCap 在十二个基准测试中使用的推理 token 减少了 38.9%,对准确性的影响微乎其微,平均仅下降 0.15 分。这种“思考 token”(模型在响应前生成的内部草稿文本)的减少可以带来更快的响应时间和更高的效率,尽管一些特定基准测试,如长上…
-
BottleCap AI 发布高效 Gemma-4-26B-A4B 模型
BottleCap AI 开发了一款新模型 Gemma-4-26B-A4B,其计算思考量减少了 39-69%,同时保持了与先前版本相同的准确率。这项进展旨在提高 AI 模型的效率。该文章已在 Hacker News 上分享并在 Mastodon 上进行了讨论。
-
Gemma-4-26B-A4B 模型通过减少计算量实现了更高的效率
Gemma 模型的一个新变体,名为 Gemma-4-26B-A4B,据报道在计算“思考”量减少 39-69% 的同时,达到了与现有模型相似的准确率。此优化旨在提高效率而不牺牲性能。
-
新的 NR-SAE 方法通过利用现有路由器知识来增强 MoE 模型
一篇新研究论文提出了一种名为 NR-SAE 的方法,该方法通过允许每个专家利用一小部分预先选择的参数字典来增强混合专家(MoE)模型。这种方法在 Gemma 4 26B-A4B 模型上进行了测试,与对照模型相比,在解释路由器加权专家输出方面表现出更好的性能。研究表明,模型的路由器已经拥有了重要的知识,从而减少了从头开始学习这些信息的字典的需要。
-
大型语言模型在抽象呈现亲属关系时难以进行推理
一项新的研究论文探讨了大型语言模型如何处理亲属推理任务,发现其表现受到关系呈现方式的显著影响。与明确定义的临时谓词相比,当使用熟悉的词汇描述关系时,Qwen3.8-27B 和 Gemma 4 - 26B-A4B 等模型的表现明显更好。虽然推理预算和提示干预可以缓解这一差距,但研究得出结论,大型语言模型所表现出的关系能力并非对呈现方式漠不关心,这表明它们偏好学习到的语言联想而非形式定义。
-
稀疏MoE模型和推测性解码可大幅提升AI速度
一位开发者详细介绍了在固定硬件上,架构选择(而非配置标志)如何为其AI项目带来最显著的速度提升。使用稀疏专家混合(MoE)模型(如Gemma 4 26B-A4B),该模型每个token激活的参数更少,与密集模型相比速度提升了四倍。此外,启用多token预测(MTP)推测性解码可提升57%的速度,且感知不到质量损失,并行槽位通过允许多个并发请求,使聚合吞吐量近乎翻倍。
-
新框架在性能、延迟和内存方面评估开放LLM
一篇新的研究论文提出了一个面向推理的开放语言模型的统一评估框架,超越了简单的准确性指标。该研究在四个基准测试中测试了七种模型配置,不仅分析了准确性,还分析了延迟、内存使用和提示敏感性。Gemma-4-26B-A4B 获得了最高的加权分数,而 Gemma-4-E4B 在性能和效率之间取得了良好的平衡。研究结果表明,模型排名会根据提示策略而变化,并且特定于部署的权衡对于实际选择至关重要。
-
双模型文学翻译流水线在 Tesla P40 上实现每天 2-3 本书的翻译量
一位用户详细介绍了一个利用两块 Tesla P40 GPU 进行文学书籍翻译的双模型流水线。该流水线使用 Gemma 4 - 26B-A4B 进行翻译,速度约为每秒 40 token,并使用 Qwen3.6 35B-A3B 进行校对,速度为每秒 50-70 token。该设置利用了多 token 预测 (MTP) 推测解码和 64K 上下文窗口,以实现高效、大批量的整本书翻译。
-
Gemma 4 26B-A4B 在以自我为中心的数据任务上以 19 倍的成本匹配 Gemini 2.5 Flash
最近使用 HFlow 框架的评估,评估了几种开源权重视觉语言模型(VLMs)处理以自我为中心数据的能力。研究发现,Gemma 4 26B-A4B 在手部可见性和主动操作任务上与 Gemini 2.5 Flash 的表现相当,一致性达到 90.87%,但成本却显著降低。Gemma 和 Qwen 3.8 27B 模型都证明了自托管的实用性,提供了私有数据处理能力。这表明开源权重 VLM 越来越适合大规模的以自我为中心的数据任务,成本、吞吐…
-
Gemma 4 26B A4B 使用MoE仅激活4B参数,提升效率
Gemma 4 26B (A4B) 模型采用了混合专家(MoE)架构,在其总计260亿参数中,每个token仅激活约40亿参数。这种设计使其在保持接近小型模型的计算效率和速度的同时,拥有大型模型的知识容量,适合内存充足但计算能力有限的硬件。测试表明该模型在推理和代码相关任务上表现良好,但在严格的JSON格式化方面存在一些小问题,并且与数学提示相比,代码提示的token生成速度较慢。
-
Laguna XS 2.1 模型因在低显存硬件上的表现而受到赞扬
Laguna XS 2.1 模型因其在低端硬件上的性能而受到关注,特别是对于显存有限的用户。一位用户报告称,该模型在一台拥有 8GB 显存的笔记本电脑上运行流畅,在 60k 上下文窗口下达到了每秒 30 个 token。虽然不如 Qwen 3.6-3.8 27B 等大型模型那样完善,但据报道 Laguna XS 2.1 在特定测试提示上优于 Gemma 4 - 26B-A4B 和 Qwen 3.6 35B-A3B,尽管一些用户也注意到…
-
Gemma 4 26B-A4B 模型可在 M1 Pro MacBook Pro 上离线运行
一位用户已成功在 M1 Pro MacBook Pro 上离线运行了 Google 的 Gemma 4 26B-A4B 模型。这一演示凸显了消费级硬件处理复杂 AI 模型本地化运行的能力日益增强。
-
本地 LLM 在 SVG 生成能力方面的对比
一位 Reddit 用户对几个本地大型语言模型 (LLM) 生成可缩放矢量图形 (SVG) 代码的能力进行了并排比较。评估的模型包括 Qwen3.8-27B、Muse Glimmer 30B 和 Gemma 4 26B A4B,并使用 Google 的 Gemini 3.7 Flash 作为基于云的近似对照。用户有意避免评分,让个人能够评判原始输出,并表达了对 Qwen3.8-27B 的个人偏好,特别指出其与对照模型的差异。
-
新的 LorExperts 和 BTExperts 方法可有效压缩 MoE 模型
研究人员开发了两种新的方法,LorExperts 和 BTExperts,用于压缩混合专家(MoE)语言模型。这些技术旨在通过压缩专家权重矩阵来降低部署 MoE 模型的计算成本,同时保持准确性。LorExperts 对专家进行聚类,并使用一个主要的、全精度的专家,对其他专家进行低秩校正,保留原始路由器。BTExperts 进一步将这些专家组织成树状结构,以实现摊销计算。这两种方法在与现有基线相比时都显示出更高的性能,尤其是在专家数量增…