由于隐藏的“推理 token”,使用 AI 模型的成本通常远高于广告宣传。这些 token 是模型在其内部思考过程中生成的,但不是最终输出的一部分,用户却要为它们付费。这可能将每个可用 token 的有效成本增加高达 10 倍或更多,使得看似更便宜的模型在实践中要昂贵得多。此外,模型并非存在于一个简单的“愚蠢”到“聪明”的线性尺度上;更便宜的模型可能在一般任务上表现良好,但在特定、棘手的输入上会急剧失败,例如在不适当时拒绝使用工具。 AI
影响 强调了在有效实施 AI 时,除了广告费率之外,还需要进行仔细的成本分析,并对模型行为有更深入的了解。
排序理由 该项目是一篇评论文章,解释了 AI 模型定价和性能的一个细微方面,而不是直接发布或具有颠覆性影响的事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →