NomadGPU

Vast.ai GPU 租用成本因流量和启动费用而异

一位用户在 Vast.ai 上使用 RTX 4090 GPU 进行了八次 QLoRA 7B 训练作业，以了解除每小时费率之外的实际成本。实验表明，流量成本，特别是下载 Qwen2.5-7B-Instruct 等大型模型的流量成本，显著影响了总账单，有时甚至超过了 GPU 租用费。此外，启动时间（包括镜像拉取和依赖项安装）也会计费，并且主机性能差异导致了看似相同的作业有不同的训练时长和成本。