English(EN) b11618: HIP: use 64-row MMQ tiles for some quant types on RDNA3.5 (#28195)

llama.cpp 通过新的分块策略优化 RDNA3.5 GPU 性能

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-14 06:10

llama.cpp 项目发布了更新 b11618，该更新优化了 RDNA3.5 GPU 的性能。此更新为特定的量化类型引入了 64 行 MMQ 瓦片，旨在提高 gfx115x 和 gfx1151 等硬件的处理速度。使用 MUL_MAT 和 MUL_MAT_ID 操作测试的优化显示，中位数性能提升高达 8.0%。Claude Opus-5 协助了该开发。 AI

影响提高了特定 AMD GPU 上的推理性能，可能使运行本地 LLM 的用户受益。

排序理由这是开源项目中针对特定硬件架构的软件优化，并非前沿模型发布或重大行业事件。

在 llama.cpp — Releases 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 3 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 这是开源项目中针对特定硬件架构的软件优化，并非前沿模型发布或重大行业事件。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

llama.cpp — Releases TIER_1 English(EN) · liangliangchang · 2026-10-14 06:10

b11618: HIP：在 RDNA3.5 上为某些量化类型使用 64 行 MMQ 瓦片 (#28195)

The RDNA3.5 config table selects a 64-row / 128-thread tile up to J=32 and a 128-row / 256-thread tile above that. On gfx115x the smaller tile leaves enough LDS free for a second workgroup per CU, while the larger one does not. Extend the 64-row tile to the …

本文如何被排名

报道来源 [1]

b11618: HIP：在 RDNA3.5 上为某些量化类型使用 64 行 MMQ 瓦片 (#28195)

相关实体

相关话题