PulseAugur
实时 22:30:25
English(EN) Tokens Are Not the Unit

AI 模型定价因隐藏的“推理 token”而具有误导性

由于隐藏的“推理 token”,使用 AI 模型的成本通常远高于广告宣传。这些 token 是模型在其内部思考过程中生成的,但不是最终输出的一部分,用户却要为它们付费。这可能将每个可用 token 的有效成本增加高达 10 倍或更多,使得看似更便宜的模型在实践中要昂贵得多。此外,模型并非存在于一个简单的“愚蠢”到“聪明”的线性尺度上;更便宜的模型可能在一般任务上表现良好,但在特定、棘手的输入上会急剧失败,例如在不适当时拒绝使用工具。 AI

影响 强调了在有效实施 AI 时,除了广告费率之外,还需要进行仔细的成本分析,并对模型行为有更深入的了解。

排序理由 该项目是一篇评论文章,解释了 AI 模型定价和性能的一个细微方面,而不是直接发布或具有颠覆性影响的事件。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

AI 模型定价因隐藏的“推理 token”而具有误导性

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Tom Jones ·

    Tokens Are Not the Unit

    <p>Every AI provider publishes a price in dollars per million tokens. Every comparison table ranks by it. Every build-versus-buy spreadsheet runs on it.</p> <p><strong>That number is misleading, and not in a small way. It can be wrong by 10x, and wrong in the direction that makes…