PulseAugur
中
实时 23:39:58
English(EN) b11986: opencl: initial support for iq2 (#31267)

llama.cpp 为 Adreno GPU 上的 IQ2 量化添加 OpenCL 支持

作者 PulseAugur 编辑部 · [1 个来源] ·

llama.cpp 项目发布了 b11986 版本，为 IQ2 量化格式引入了初始的 OpenCL 支持。此更新包括针对 Adreno GPU 的优化和特定实现，目标是 IQ2_S、IQ2_XS 和 IQ2_XXS 变体。由 Hongqiang Wang 联合撰写的贡献侧重于 OpenCL 框架内的各种矩阵乘法和向量运算。 AI

影响 在特定硬件上提升使用 llama.cpp 的 LLM 的推理性能。

排序理由 这是对一个开源项目的软件更新，增加了对特定硬件和量化方法的支持，属于工具范畴。

在 llama.cpp — Releases 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

llama.cpp 为 Adreno GPU 上的 IQ2 量化添加 OpenCL 支持

本文如何被排名

Signal score
2 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
这是对一个开源项目的软件更新，增加了对特定硬件和量化方法的支持，属于工具范畴。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, other
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Same-day
Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

  1. llama.cpp — Releases TIER_1 English(EN) · lhez ·

    b11986: opencl: iq2 的初始支持 (#31267)

    <ul> <li> <p>opencl: add iq2_s AOS mv</p> </li> <li> <p>opencl: add iq2_s SOA mv and tiled mm</p> </li> <li> <p>opencl: add iq2_s noshuffle gemm/gemv for adreno</p> </li> <li> <p>opencl: add iq2_s dp4a for adreno</p> </li> <li> <p>opencl: optimize iq2_s adreno decode and narrow b…

相关实体

相关话题