实体 KV f16

KV f16

PulseAugur coverage of KV f16 — every cluster mentioning KV f16 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

模型发布 1

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

COMMENTARY · CL_210365 · Aug 20 · 07:01

Qwen 3.8 27B KV 缓存精度影响性能，用户报告

Reddit r/LocalLLaMA 版块的一名用户报告称，Qwen 3.8 27B 模型的 KV 缓存精度对性能有显著影响，这与普遍的假设相反。该用户发现在长上下文的细节和记忆召回方面，KV 缓存的 F16 精度比 Q8_0 更好。这一观察是在使用 ROCm 在 AMD R9700 GPU 上通过 UD 3.0 框架进行测试时做出的。