llama.cpp b11895 发布改进了 Metal 性能和矩阵运算

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-26 09:57

llama.cpp 项目发布了 b11895 版本，其中包含多项专注于 Metal 性能和矩阵运算的更新。这些更新解决了大型矩阵输出偏移量中可能出现的溢出问题，并拓宽了批处理偏移量和 MUL_MAT_ID 令牌索引。该版本还提到了 macOS、iOS、Linux、Android 和 openEuler 的各种构建配置，其中一些配置已被禁用。 AI

影响提高了在 Apple 硬件和特定 Linux 发行版上本地 LLM 推理的性能。

排序理由这是特定项目的软件发布，不是前沿模型发布或重要的行业事件。

在 llama.cpp — Releases 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 10 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 这是特定项目的软件发布，不是前沿模型发布或重要的行业事件。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

llama.cpp — Releases TIER_1 (SO) · github-actions[bot] · 2026-10-26 09:57

b11895

<details open=""> <p>metal : stop overflow from happening in large matrix output offsets (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/30072">#30072</a>)</p> <ul> <li>Metal : stop overflow from happening in large matrix output offsets</li> …

本文如何被排名

报道来源 [1]

b11895

相关实体

相关话题