ChatGPT 处理单个文本提示大约消耗 0.42 瓦时。该平台每天处理约 25 亿个提示,相当于该单一产品每年消耗 383 千瓦时的能源。此计算突显了大型语言模型除了初始训练费用外,还有显著的持续推理成本。 AI
影响 强调了 AI 推理的巨大持续能源成本,与训练费用分开。
排序理由 文章讨论了 AI 推理的能源成本,而非新发布或重大行业事件。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →