SemiAnalysis 报告称,Google 的 TPUv7 Ironwood 硬件在推理任务上,与 NVIDIA 的 Blackwell Ultra 相比,每美元的性能提高了 50%。这一优势是通过新的 TorchTPU 外部推理堆栈实现的,该堆栈在 TPU 上支持原生 PyTorch。Google 的 Pallas 推理内核的开源进一步巩固了这一基础,表明 TPU 外部化具有积极的发展趋势。 AI
影响 表明 Google 的 TPU 硬件在 AI 推理工作负载方面具有显著的成本效益优势。
排序理由 对两大主要竞争对手的硬件性能进行分析。[lever_c_demoted from significant: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →