Dansk(DA) b11967: ggml-cpu: SVE 256-bit Implementation of mxfp4 gemv kernel (#28141)

llama.cpp 使用 SVE 256 位 MXFP4 实现优化 GEMV 内核

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-28 15:58

llama.cpp 项目发布了 b11967 版本，该版本采用 MXFP4 和 SVE 256 位指令集优化了通用矩阵向量乘法 (GEMV) 内核的实现。此次与富士通合作开发的更新旨在显著提高性能。 AI

影响此优化可能导致兼容硬件上大型语言模型的推理速度更快。

排序理由这是一个开源项目相关的软件优化发布，涉及 AI 模型推理，属于研究/基础设施类别。[lever_c_降级自研究: ic=1 ai=0.7]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 3 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 这是一个开源项目相关的软件优化发布，涉及 AI 模型推理，属于研究/基础设施类别。[lever_c_降级自研究: ic=1 ai=0.7]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra, other; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

llama.cpp — Releases TIER_1 Dansk(DA) · abhijain1204fujitsu · 2026-10-28 15:58

b11967: ggml-cpu: mxfp4 gemv 内核的 SVE 256 位实现 (#28141)

<ul> <li> mxfp4 sve 256 impl completed </li> <li> working with pretty good perf improvement </li> <li> review comments addressed </li> <li> review comments for SVE 256 check </li> <li> trailing white spaces removed </li> </ul> <hr /> Co-autho…