Google 推出了其第八代张量处理单元 (TPU),即用于训练的 TPU 8t 和用于推理的 TPU 8i,旨在加速 AI 智能体的开发。TPU 8t 的设计旨在大幅缩短大型 AI 模型的训练时间,其 Pod 可容纳多达 9,600 个芯片,并提供比前几代产品显著更强的计算能力。TPU 8i 则专注于高效推理,支持更大的 Pod 和改进的片上内存,以处理具有更长上下文窗口的模型。 AI
影响 加速 AI 智能体开发,并可能降低大型模型的推理成本。
排序理由 主要科技公司发布新的人工智能专用硬件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →