KAIST 研究人员的一项研究表明,AI 代理每次查询的能耗可能比标准生成式 AI 高出 136 倍。分析发现,执行涉及规划和工具使用的复杂任务的 AI 代理,平均会更频繁地调用大型语言模型 (LLM) 9.2 次,并花费大量时间让 GPU 处于待机状态。这种增加的能耗可能导致数据中心产生巨大的电力需求,如果 AI 代理请求量达到每天 137 亿次,可能需要相当于美国平均消耗量一半的电力。 AI
影响 凸显了 AI 代理广泛采用所带来的显著能源和成本影响,可能给数据中心基础设施和电网带来压力。
排序理由 关于 AI 代理能耗的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →