实体 Cloud TPU v6e-4

Cloud TPU v6e-4

PulseAugur coverage of Cloud TPU v6e-4 — every cluster mentioning Cloud TPU v6e-4 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

0

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_23346 · May 8 · 16:57

Gemma-4-31B 模型在 TPU v6e-4 基准测试中达到 463K tokens/sec

一份性能报告详细介绍了 Gemma-4-31B 模型在 Cloud TPU v6e-4 硬件上的能力，峰值预填充吞吐量达到 463,345 tokens/sec。基准测试表明，在相同硬件上，这个 31B 的密集模型提供的吞吐量与一个 26B 的 MoE 模型相当，并且在交互式任务中具有更低的延迟。然而，MoE 模型展示了更优越的计算效率，并且可以处理更大的上下文窗口。