一位使用 Kimi K3 模型的开发者发现,其“始终在线”的推理能力虽然在深度代码审查等任务中非常强大,但会导致成本远超预期。一位用户的单个请求消耗了超过 243,000 个 token,其中很大一部分归因于模型的内部思考过程。此外,开发者实现中的一个 bug 导致 token 计数被重复计算,使使用量膨胀高达 3 倍。该开发者建议将 Kimi K3 用于专门的、长上下文的任务,而将 DeepSeek Chat 等更具成本效益的模型用于一般用途。 AI
影响 凸显了高级推理模型带来的显著成本影响以及战略性任务路由的必要性。
排序理由 开发者对特定模型成本和使用模式的分析。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →