实体 UD-Q5_K_M

UD-Q5_K_M

PulseAugur coverage of UD-Q5_K_M — every cluster mentioning UD-Q5_K_M across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_192615 · Aug 10 · 19:37

Muse Glimmer 30B 模型在 RTX 5090 上达到 253 t/s 优化性能

Reddit r/LocalLLaMA 子版块的一位用户分享了 Muse Glimmer 30B 模型令人印象深刻的性能基准测试，在 RTX 5090 GPU 上实现了每秒 253 个 token。该速度是通过使用特定的量化方法 (UD-Q5_K_M) 和一个将 DFlash draft argmax 从 CPU 移至 GPU 的 draft PR (#26842) 实现的，从而解决了瓶颈问题。用户指出，此优化与 Meta 公布的速度…