实体
TPUv5p
TPUv5p
PulseAugur coverage of TPUv5p — every cluster mentioning TPUv5p across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
据报道，Google正在为未来的TPU开发六维环面（6D Torus），以增强互连
据报道，Google正在为其Tensor Processing Unit（TPU）互连拓扑进行演进，为未来的TPUv9t等模型从三维环面（3D Torus）转向六维环面（6D Torus）。这种由SemiAnalysis详细介绍的新架构旨在减少通信跳数（hops）并提高双isection带宽，尽管它需要更多的光学器件。Google还为推理专用芯片引入了Boardfly拓扑，同时为TPUv8t等训练专用芯片保留了三维环面。
-
Google DeepMind 推出解耦 DiLoCo 以实现弹性 AI 模型训练
Google DeepMind 推出了 Decoupled DiLoCo，这是一种新颖的先进 AI 模型训练方法，可增强跨数据中心的弹性和灵活性。该系统可以在使用低带宽网络的地理分散区域跨多个数据中心训练 Google 的 12B Gemma 模型，甚至可以混合不同代硬件，例如 TPU6e 和 TPUv5p。Decoupled DiLoCo 被设计为自愈的，能够隔离并继续训练，即使出现人工硬件故障，并在单元恢复联机时重新集成，从而解决…