llama.cpp 发布增强 OpenCL 后端并添加新操作

作者 PulseAugur 编辑部 · [3 个来源] · 2026-09-04 17:57

llama.cpp 项目发布了多项更新，包括 b10814 版本，通过扩展逐元素和数据移动操作的覆盖范围来增强其 OpenCL 后端。此次更新增加了新的单目运算，并优化了设备之间连续数据的复制。之前的版本，如 b10813，为 OpenCL 引入了 Adreno xmem SDPA 路径，并提高了 GQA/掩码注意力的数值精度。该项目最近还将版本号提升至 0.4.0，表明其持续的开发和功能集成。 AI

影响提高了在各种硬件上本地 LLM 推理的性能和兼容性。

排序理由这是一个开源项目的软件发布，增强了现有功能，而不是发布新模型或重大的行业事件。

在 llama.cpp — Releases 阅读 →

llama.cpp

AI 生成摘要 · Google Gemini · 来自 3 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 11 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 这是一个开源项目的软件发布，增强了现有功能，而不是发布新模型或重大的行业事件。
Source corroboration: 3 independent sources; Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics: infra, product; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [3]

llama.cpp — Releases TIER_1 (SO) · github-actions[bot] · 2026-09-04 19:32

b10814

<details open=""> opencl: extend the elementwise and data‐movement op coverage (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/27633">#27633</a>) <ul> <li>opencl: add extended elementwise unary ops (sgn, step, elu, hardswish, hardsigmo…
llama.cpp — Releases TIER_1 (SO) · github-actions[bot] · 2026-09-04 19:05

b10813

<details open=""> opencl: add Adreno xmem SDPA path (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/26331">#26331</a>) <ul> <li>opencl: add Adreno xmem SDPA path</li> </ul> Assisted-by: Codex <ul> <li> Removed the Adreno-spec…
llama.cpp — Releases TIER_1 (SO) · github-actions[bot] · 2026-09-04 17:57

b10809

<details open=""> llama.cpp : bump version to 0.4.0 (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/28386">#28386</a>) </details> Website: <ul> <li><a href="https://llama.app" rel="nofollow">https://llama.app</a…

本文如何被排名

报道来源 [3]

b10814

b10813

b10809

相关实体

相关话题