实体 KLD benchmarks

KLD benchmarks

PulseAugur coverage of KLD benchmarks — every cluster mentioning KLD benchmarks across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_197143 · Aug 12 · 15:28

Gemma 4 QAT 在 KV 缓存量化基准测试中显示出显著提升

新的基准测试表明，Gemma 4 QAT（量化感知训练）显著提高了大型语言模型中 KV 缓存量化的性能。使用 llama.cpp 的一个分支 BeeLlama.cpp 进行的 KLD 基准测试显示，QAT 模型在与非量化模型保持一致方面表现更好，尤其是在较低的量化水平下。这表明 QAT 是一种更稳健的方法，可以在保持精度的同时减小模型大小，特别是对于 Gemma 4 31B 等模型。