由于需要验证和重试，使用 LLM 执行 JSON 提取等任务的成本可能远高于基础 API 价格。虽然 API 调用按 token 计费，与输出质量无关，但 temperature 和 seed 等设置会影响生成可用输出的成功率。较高的 temperature 会增加出错的可能性，导致更多的重试，从而增加总体成本，对于需要严格验证的任务，价格可能翻倍。 AI
影响 LLM 用户在执行需要严格输出格式（如 JSON）的任务时，应将 temperature 设置为 0，并利用结构化输出模式来最大限度地减少重试成本。
排序理由 该条目讨论了使用 LLM 进行结构化数据提取的实际成本影响，重点关注基础 API 定价之外的因素。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
