English(EN) b11474: feat: add GLM5Next MTP, optimize (#29928)

llama.cpp 添加 GLM5-Next MTP 优化和 GGUF 加载

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-07 11:16

llama.cpp 项目发布了更新 b11474，为 GLM5-Next 模型引入了重要的优化和功能。此次更新包括实现了一个多令牌预测 (MTP) 图，称为 NextN，通过修剪不必要的计算来提高效率。这些更改还解决了提取合同和共享尾部回滚问题，并引入了加载仅 MTP 或仅 trunk 的 GGUF 文件的能力，从而允许加载草稿模型。 AI

影响优化 GLM5-Next 模型的推理，可能提高 llama.cpp 用户的性能和效率。

排序理由这是一个开源项目的软件发布，为特定模型实现了功能，属于研究和开发类别。[lever_c_demoted from research: ic=1 ai=1.0]

在 llama.cpp — Releases 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 7 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 这是一个开源项目的软件发布，为特定模型实现了功能，属于研究和开发类别。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: model release, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

llama.cpp — Releases TIER_1 English(EN) · pwilkin · 2026-10-07 11:16

b11474: feat: 添加 GLM5Next MTP，优化 (#29928)

<ul> <li>llama : add GLM5-Next NextN (MTP) graph</li> </ul> <p>Build the GLM5-Next multi-token-prediction head as graph_mtp: the NextN block<br /> embeds enorm(tok)+hnorm(h) through eh_proj, runs one plain DSA layer and the<br /> shared lm_head, reusing the trunk's builders throu…

本文如何被排名

报道来源 [1]

b11474: feat: 添加 GLM5Next MTP，优化 (#29928)

相关实体

相关话题