English(EN) If models get smarter, why does the same task cost more?

尽管单价降低，LLM成本仍因隐藏的推理令牌而上升

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-09 10:01

来自OpenAI和Anthropic的大型语言模型能力越来越强，但用户发现尽管单价降低，他们的账单却在增加。这是因为先进的模型执行了更多的内部“推理”或“思考”步骤，这些步骤消耗了大量令牌，并被计费为输出，尽管用户看不到它们。例如，一个模型可能提供一个200个令牌的答案，但其底层的推理过程可能使用了12,000个令牌。这种成本的增加通常可以通过模型提高理解和执行复杂或模糊提示的能力来证明，但建议用户监控`reasoning_tokens`或`thinking_tokens`字段，以了解其成本的来源。 AI

影响用户应监控内部推理令牌使用情况以管理成本，因为先进的LLM会执行更复杂、已计费的计算。

排序理由用户对LLM API定价和使用模式的分析。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 1 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Commentary; 用户对LLM API定价和使用模式的分析。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: product, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Alex @Bickov · 2026-09-09 10:01

如果模型越来越聪明，为什么同一项任务成本却越来越高？

<p>A better model should need fewer attempts. Fewer attempts should mean a smaller bill. That is the intuition, and my invoice has disagreed with it three times now.</p> <p>The price per token had gone down, so it was not a price change.</p> <h2> The tokens you pay for and never …

本文如何被排名

报道来源 [1]

如果模型越来越聪明，为什么同一项任务成本却越来越高？

相关实体

相关话题