PulseAugur
实时 13:44:43

llama.cpp 项目发布更新,改进性能和 SYCL 支持

llama.cpp 项目发布了多个更新,包括 b10306 版本,该版本在 Apple Silicon 上为 SWIGLU 激活函数带来了性能改进,并为 SYCL 添加了一个统一的融合 GLU 内核。之前的版本,如 b10305 和 b10303,侧重于对各种操作的 SYCL 支持和错误修复。b10301 版本包含了一个 CUDA 警告的修复。 AI

影响 llama.cpp 项目的性能优化和平台支持扩展。

排序理由 这是一系列特定项目的软件发布说明,而非行业范围内的重大事件。

在 llama.cpp — Releases 阅读 →

AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →

llama.cpp 项目发布更新,改进性能和 SYCL 支持

报道来源 [4]

  1. llama.cpp — Releases TIER_1 (SO) · github-actions[bot] ·

    b10306

    <details open=""> <p>sycl: *glu flat path (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/26354">#26354</a>)</p> <ul> <li>tests: add SWIGLU perf cases</li> </ul> <p>perf mode had no GLU coverage. Adds SWIGLU at 17408 columns, 512 and<br /> 20…

  2. llama.cpp — Releases TIER_1 (SO) · github-actions[bot] ·

    b10305

    <details open=""> <p>sycl : Support DSv4 OPs: LIGHTNING_INDEXER,DSV4_HC_COMB,DSV4_HC_POST,DSV4_HC_PRE (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/26568">#26568</a>)</p> <ul> <li> <p>support DSv4 OPs: LIGHTNING_INDEXER,DSV4_HC_COMB,DSV4_HC…

  3. llama.cpp — Releases TIER_1 (SO) · github-actions[bot] ·

    b10303

    <details open=""> <p>sycl : fix error Error OP FLASH_ATTN_EXT on arc770 (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/26441">#26441</a>)</p> </details> <p><strong>Website:</strong></p> <ul> <li><a href="https://llama.app" rel="nofollow">htt…

  4. llama.cpp — Releases TIER_1 (SO) · github-actions[bot] ·

    b10301

    <details open=""> <p>cuda: fix warnings for unused variable/function (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/26688">#26688</a>)</p> </details> <p><strong>Website:</strong></p> <ul> <li><a href="https://llama.app" rel="nofollow">https:…