Smart Inference 开发的一款工具追踪了 GPU 和 Token 的价格，揭示了市场趋势的分化。从 6 月到 10 月，NVIDIA H100、H200 和 B200 等较新 GPU 的成本上涨了约 20-25%，而 A100 等较旧硬件的价格则有所下降。与此同时，尽管 DeepSeek V4 和 GLM-5 等较新开源模型的模型本身保持不变且硬件成本上升，但其推理 Token 的价格却暴跌了高达 77%。这表明模型提供商可能正在补贴推理成本，使得对于许多工作负载而言，租用 Token 比运行自己的 GPU 更具经济效益。 AI
影响 改变了 AI 运营商的成本效益分析，对于较新模型而言，可能倾向于租用 Token 而非自托管 GPU。
排序理由 该条目讨论了与 AI 基础设施和模型相关的市场趋势和定价数据，提供了分析和理论，而不是宣布新产品或研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
