English(EN) What Running a Local LLM Actually Costs in Electricity

本地大语言模型耗电量分析：空闲功耗占主导

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-13 22:25

在本地运行大语言模型会产生电费，而这笔费用常常被低估。决定这些费用的主要因素包括：GPU在生成过程中的功耗、每千瓦时的电价以及模型每秒生成的令牌数。虽然在高功率GPU（如RTX 4090）上持续生成可能每小时花费约0.072美元，但实际的每日成本很大程度上受空闲功耗的影响，在较低的使用率下，空闲功耗可能超过生成成本。此外，冷却费用，尤其是在空调环境下，会使总电费账单增加相当大的比例。 AI

影响了解本地大语言模型推理的真实耗电量对于优化硬件使用和管理运营成本至关重要。

排序理由文章对运行本地大语言模型的硬件和电力使用情况进行了技术分解和成本分析。

在 dev.to — LLM tag 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 文章对运行本地大语言模型的硬件和电力使用情况进行了技术分解和成本分析。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 55 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Multigrid · 2026-08-13 22:25

运行本地 LLM 实际需要多少电费

<p>The electricity cost of local inference is three numbers multiplied together, and two of them you have to measure yourself. This page gives you the formula, works it through with every assumption labelled, and tells you which figure to substitute. No number below is a measurem…

本文如何被排名

报道来源 [1]

运行本地 LLM 实际需要多少电费

相关实体

相关话题