mid tier

LLM 成本估算指南：按 Token 定价，而非按请求

本文提供了一种实用的方法，用于在承诺使用特定模型或功能之前估算大型语言模型（LLM）的月度成本。它强调按 Token 数量（每次调用的输入和输出）和每日使用量分解工作负载，而不是依赖于按请求定价。作者通过示例计算说明了这一点，比较了假设的“前沿”和“中端”定价，并强调了输入-输出比如何显著影响成本效益。文章还指出，真正的成本指标是每个已完成的任务，包括通常在初步定价估算中被忽略的重试和人工升级。