实体 Canada-Quant

Canada-Quant

PulseAugur coverage of Canada-Quant — every cluster mentioning Canada-Quant across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_78455 · Jun 8 · 16:40

用户优化 DeepSeek v4 Flash 在 Hopper 上的速度至 200 tok/s

一位用户分享了在本地运行 DeepSeek v4 Flash 模型进行优化的技巧，在 Hopper 系统上实现了近 200 token/秒的速度。通过利用 Canada-Quant 的特定量化以及修补 vLLM 中的 MTP 代码，用户显著提高了推理速度。该帖子还详细说明了成本影响，指出目前 token 生成的电力成本已超过收入。