PulseAugur
中
实时 13:43:44
English(EN) b11873: opencl: add initial q2_k support (#30999)

llama.cpp 为 Adreno GPU 上的 OpenCL 添加了 Q2_K 量化支持

作者 PulseAugur 编辑部 · [1 个来源] ·

llama.cpp 项目发布了 b11873 版本，在其 OpenCL 后端中引入了对 Q2_K 量化格式的初始支持。此更新包括针对通用矩阵向量乘法 (GEMM) 和通用矩阵乘法 (GEMM) 操作的新内核实现，这些操作专门针对使用 dp4a 和面向服务的架构 (SOA) 方法的 Qualcomm Adreno GPU 进行了优化。由 Hongqiang Wang 联合撰写的这些贡献专注于调整这些内核以提高性能。 AI

影响 提高了在特定移动 GPU 上量化模型的推理性能。

排序理由 这是对一个开源项目的软件更新，它提高了特定硬件的性能，而不是核心 AI 模型发布或研究突破。

在 llama.cpp — Releases 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

llama.cpp 为 Adreno GPU 上的 OpenCL 添加了 Q2_K 量化支持

本文如何被排名

Signal score
10 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
这是对一个开源项目的软件更新，它提高了特定硬件的性能，而不是核心 AI 模型发布或研究突破。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. llama.cpp — Releases TIER_1 English(EN) · lhez ·

    b11873: opencl: 添加初始 q2_k 支持 (#30999)

    <ul> <li> <p>opencl: add <code>mul_mv_q2_k_f32</code></p> </li> <li> <p>opencl: add q2_k SOA mv and tiled mm</p> </li> <li> <p>opencl: add q2_k noshuffle gemm/gemv for adreno</p> </li> <li> <p>opencl: add q2_k dp4a gemm for adreno</p> </li> </ul> <p>Co-authored-by: Hongqiang Wang…

相关实体

相关话题