completion_tokens_details.reasoning_tokens

AI 模型定价因隐藏的“推理 token”而具有误导性

由于隐藏的“推理 token”，使用 AI 模型的成本通常远高于广告宣传。这些 token 是模型在其内部思考过程中生成的，但不是最终输出的一部分，用户却要为它们付费。这可能将每个可用 token 的有效成本增加高达 10 倍或更多，使得看似更便宜的模型在实践中要昂贵得多。此外，模型并非存在于一个简单的“愚蠢”到“聪明”的线性尺度上；更便宜的模型可能在一般任务上表现良好，但在特定、棘手的输入上会急剧失败，例如在不适当时拒绝使用工具。