Tensor Processing Units
PulseAugur coverage of Tensor Processing Units — every cluster mentioning Tensor Processing Units across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
AI基础设施需要专业硬件和云平台
人工智能所需的基础设施非常广泛,包括GPU和TPU等专用硬件以及强大的云平台。Google Cloud、Amazon Web Services和Azure等主要云服务提供商在提供这些AI就绪环境方面发挥着关键作用。文章还触及了Kubernetes和Docker等容器化技术的重要性,以及Nvidia、AMD和Intel等公司在提供必要处理能力方面的作用。
-
AGI Systems Directorate 从零开始构建 Project Lumina AI,整合生物机制
AGI Systems Directorate 正在开发 Project Lumina,这是一个完全从零开始构建的自主 AI 代理和大型语言模型。该项目旨在通过整合超过 500 种生物机制,模仿人脑的处理和适应能力,从而超越 Transformer 架构。虽然目前处于预训练阶段,但团队在尝试使用 T4 GPU 时遇到了严重的显存不足错误,这凸显了海量计算资源在 AI 开发中的关键作用。该项目计划下个月发布一个参数量超过一千亿的模型,并…
-
谷歌通过卫星测试太空AI计算
谷歌已部署一颗装有四颗张量处理单元(TPU)的卫星进入轨道。该计划旨在评估人工智能计算在独特的太空环境中运行的能力。该卫星的大小相当于一台冰箱。
-
谷歌在轨道上测试AI芯片以支持太空数据中心 · 已追踪2个来源
谷歌已启动“Suncatcher”项目,将四颗张量处理单元(TPU)送入轨道,以测试太空AI基础设施的可行性。该任务旨在评估AI芯片能否承受太空的严酷环境并在持续阳光下运行,长远愿景是建立轨道上的太阳能数据中心。虽然该项目被视为一项“登月计划”,且成本与地面设施持平至少还需要五年时间,但它表明了在AI基础设施成本不断上升的情况下,超大规模云服务提供商正在探索未来的计算解决方案。
-
大语言模型训练基础设施:其背后的引擎
训练基础设施对于大语言模型(LLMs)的开发至关重要,它能够跨越数千个加速器高效处理数十亿个参数。该基础设施涵盖硬件、软件和分布式系统工程,直接影响模型开发的可行性、成本和速度。关键的分布式训练技术包括数据并行(Data Parallelism),即模型在处理不同数据子集的设备上进行复制;以及模型并行(Model Parallelism),当模型过大无法容纳单个加速器时,将模型本身拆分到不同设备上。混合精度训练(Mixed Preci…
-
Google 向以 NVIDIA 为主的云服务商推销 TPU
据报道,Google 正试图说服专注于 NVIDIA 硬件的 AI 云服务商采用其张量处理单元 (TPU)。此举旨在使 AI 工作负载的硬件选择多样化,超越 NVIDIA 主导的 GPU。该公司正强调其 TPU 作为云基础设施的可行替代方案。
-
谷歌2028年牵手英特尔生产超300万个TPU,因台积电封装产能紧张
据报道,谷歌已向英特尔下达订单,将在2028年生产超过300万个张量处理单元(TPU)。此举正值台积电的先进封装解决方案,特别是CoWoS,在2027年底前已严重超额预订,导致AI芯片生产出现瓶颈。SK海力士正在测试英特尔的EMIB封装以集成HBM,这被视为近期大规模AI芯片制造的唯一可行替代方案。
-
AI 开始在专业设计任务中超越芯片工程师
人工智能在芯片设计的特定、明确定义的领域开始超越人类芯片工程师。大型语言模型正在加速用于此过程的软件工具的开发,为一些公司带来了显著的生产力提升和功耗降低。研究人员正在探索 AI 不仅能优化现有设计,还能发现全新方法,尽管在高级战略和新颖想法的产生方面,人工指导仍然至关重要。
-
Google 和 Blackstone 推出价值 50 亿美元的 TPU 云风险投资公司
Google 和 Blackstone 正在推出一项新业务,以提供对 Google 张量处理单元 (TPU) 的云访问。该计划得到了 Blackstone 提供的 50 亿美元巨额承诺的支持。该合作伙伴关系旨在扩大 Google 专用人工智能芯片在各种计算需求方面的可用性。
-
Google 发布两款专为“智能体时代”设计的 TPU
Google 推出了其第八代张量处理单元 (TPU),即用于训练的 TPU 8t 和用于推理的 TPU 8i,旨在加速 AI 智能体的开发。TPU 8t 的设计旨在大幅缩短大型 AI 模型的训练时间,其 Pod 可容纳多达 9,600 个芯片,并提供比前几代产品显著更强的计算能力。TPU 8i 则专注于高效推理,支持更大的 Pod 和改进的片上内存,以处理具有更长上下文窗口的模型。