韩国科学技术院 (KAIST) 研究人员的一项新研究表明,AI 代理每次查询消耗的能源最多可达标准生成式 AI 模型 136.5 倍。能源消耗的显著增加归因于 AI 代理执行的复杂任务,例如规划和使用外部工具,这会导致更频繁的 LLM 调用和 GPU 空闲时间增加。研究强调,AI 代理的广泛采用可能会急剧增加数据中心的电力需求,如果请求量达到每天 137 亿次,其电力消耗可能达到美国平均消耗量的一半。 AI
影响 AI 代理的巨大能源需求可能需要电力基础设施和模型优化方面的重大进步,以确保可持续扩展。
排序理由 详细介绍 AI 代理能耗的研究论文。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →