实体 q6_0 cache

q6_0 cache

PulseAugur coverage of q6_0 cache — every cluster mentioning q6_0 cache across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_71888 · Jun 4 · 21:25

BeeLlama v0.3.1 通过 DFlash, MTP 提升本地 LLM 性能

BeeLlama v0.3.1，一个 llama.cpp 的分支版本，已发布并带来了显著的性能提升。此次更新集成了 DFlash、多线程处理 (MTP) 以及 q6_0 缓存和 TurboQuant 等新的量化选项。在单块 RTX 3090 上的基准测试显示速度大幅提升，Qwen 3.6 27B 和 Gemma 4 31B 模型达到了 177.8 tps，比基线提高了 4.93 倍。