实体
Trillium
Trillium
PulseAugur coverage of Trillium — every cluster mentioning Trillium across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Google 的 TPU v6e-1 提供内存升级但成本更高
一项技术分析显示，Google 新的 Cloud TPU v6e-1 (Trillium) 在性能上优于 v5e-1，但其更高的成本使其在某些工作负载下性价比不高。v6e-1 提供双倍内存和 3.6 倍的 KV 缓存容量，但价格是 v5e-1 的 2.25 倍。对于未能充分利用增加内存的工作负载，v6e-1 的每个输出 token 的成本仅略微降低，甚至更高。分析还强调了新硬件配置方面的问题，包括跨区域的可用性不一致以及 spot 和…
-
Gemma-4-31B 模型在 TPU v6e-4 基准测试中达到 463K tokens/sec
一份性能报告详细介绍了 Gemma-4-31B 模型在 Cloud TPU v6e-4 硬件上的能力，峰值预填充吞吐量达到 463,345 tokens/sec。基准测试表明，在相同硬件上，这个 31B 的密集模型提供的吞吐量与一个 26B 的 MoE 模型相当，并且在交互式任务中具有更低的延迟。然而，MoE 模型展示了更优越的计算效率，并且可以处理更大的上下文窗口。