PulseAugur
中
实时 17:33:32
实体 45.4 tokens per second

45.4 tokens per second

PulseAugur coverage of 45.4 tokens per second — every cluster mentioning 45.4 tokens per second across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_347718 ·

    MAPLE 项目声称 26B LLM 在 6GB GPU 上运行速度提升 6 倍

    一个名为 MAPLE 的新开源项目声称，它已将 Gemma 4 26B-A4B 大型语言模型优化，使其能在配备 6 GB 显存的消费级 RTX 4050 笔记本 GPU 上以每秒 45.4 个 token 的速度运行。与原始模型相比，这是一个显著的速度提升，据报道原始模型在不同条件下仅能达到每秒 6.9 个 token。然而，这一说法需要仔细审视，因为 MAPLE 模型经过了剪枝，并且在 GPU 上使用了全部 30 层，而原始模型则有…