MI100

用户详述 6.4k 美元本地 LLM 服务器成本节省

一位用户详细介绍了其定制的本地 LLM 服务器的总拥有成本，该服务器的硬件成本为 6,406.45 美元。该服务器配备了四块二手 MI100 GPU，运行 Qwen3.6 27B，并为一项业务运营处理大量的每日 token 量。用户计算得出，即使算上电力成本，与使用 API 相比，本地运行此设置每年可为他们节省约 3,701.10 美元。