实体 Q2_K

Q2_K

PulseAugur coverage of Q2_K — every cluster mentioning Q2_K across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

基础设施 1

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_153989 · Jul 21 · 06:19

llamacpp PR 将 ROCm 提示处理速度提升 15%，Q2_K 加速 28 倍

llamacpp 项目的一项新拉取请求旨在显著提高提示处理速度，特别是对于使用 ROCm 的 AMD GPU。此更新还解决了已发现的一个错误，该错误使 Q2_K 量化方法的速度提高了 28 倍。这些优化有望使拥有 AMD 硬件的用户能够使用更极端的量化配置。