一位用户详细介绍了其定制的本地 LLM 服务器的总拥有成本，该服务器的硬件成本为 6,406.45 美元。该服务器配备了四块二手 MI100 GPU，运行 Qwen3.6 27B，并为一项业务运营处理大量的每日 token 量。用户计算得出，即使算上电力成本，与使用 API 相比，本地运行此设置每年可为他们节省约 3,701.10 美元。 AI
影响 提供了本地运行 LLM 与使用 API 之间的实际成本效益分析，为 AI 运营商的决策提供信息。
排序理由 用户生成内容，详述个人硬件成本和比较。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<!-- SC_OFF --><div class="md"><p>I haven't seen any of these done, so I just wanted to share my experience in case it is useful for anyone. The purpose of this post is to show total cost of ownership of my local llm server versus API equivalent. Before you look at the final numb…