人工智能行业的重点是训练基础设施，特别是大型GPU集群，但随着到2030年推理工作负载预计将显著超过训练负载，这种关注变得不完整。SPAN首席执行官Arch Rao认为，由于推理工作负载对延迟敏感且可分布式，因此需要不同的基础设施方法。他强调，当前的电力输送网络并未设计来满足这种日益增长的需求，从而造成了一个“电力问题”，需要重新构想系统，而不仅仅是能源生产。 AI
影响 强调了发展电力输送基础设施以支持快速增长的AI推理需求的关键必要性，这将塑造未来的计算投资。
排序理由 该条目是行业高管发表的一篇评论文章，讨论了人工智能未来的基础设施需求，而不是直接的公告或发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
