一项技术分析显示,LLM DeepSeek V4.1 Flash 将大部分 token 用于内部推理,而这部分与用户可见的输出按相同费率计费。这种内部处理可能导致比预期更高的成本和更长的延迟,特别是当 `max_tokens` 设置过低时,模型会在未生成最终答案的情况下耗尽其 token 预算用于推理。将 `reasoning_effort` 参数调整为“low”可以将成本降低高达 37%,并将响应时间提高约 45%。 AI
影响 强调了 LLM 使用中潜在的成本和延迟问题,为开发者提供了优化策略。
排序理由 用户对 LLM 性能和成本设置的分析。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →