llama.cpp b11985 优化 Apple 设备上的 Metal 性能

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-29 17:13

llama.cpp 项目发布了 b11985 版本，为 macOS 和 iOS 上的 Metal 带来了性能增强。此次更新通过优化 fp4 值解码和移除 threadgroup 内存使用，实现了更快的 MXFP4 矩阵向量乘法。此外，连续的一元和二元运算现在利用完整的 threadgroups，并且 GLU 行被分割到不同的 threadgroups 以提高效率。 AI

影响优化 Apple 硬件上的 LLM 推理性能，可能实现更快的本地模型执行。

排序理由这是一个开源项目的软件发布，专注于优化消费级硬件上大型语言模型的推理。

在 llama.cpp — Releases 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 9 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 这是一个开源项目的软件发布，专注于优化消费级硬件上大型语言模型的推理。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

llama.cpp — Releases TIER_1 (SO) · github-actions[bot] · 2026-10-29 17:13

b11985

<details open=""> <p>metal : faster MXFP4 mat-vec, full threadgroups for unary/binary/GLU (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/31075">#31075</a>)</p> <ul> <li>metal : faster MXFP4 mat-vec kernel</li> </ul> <p>Decode the fp4 values …

本文如何被排名

报道来源 [1]

b11985

相关实体

相关话题