一位开发者发现他们的自动化作业未能始终使用预期的大型语言模型，导致了意外的成本和错误的账单归属。通过对其计划任务进行盘点，他们发现一些作业在未明确选择模型的情况下默认使用了更便宜的提供商，导致成本报告不正确。为解决此问题，该开发者实施了一个系统，为每个自动化作业明确命名模型，确保工作被路由到适当且预期的提供商，在人类可读的输出方面，优先考虑质量而非成本节省。 AI
影响 强调了在自动化大型语言模型工作流中明确模型配置和成本跟踪的必要性。
排序理由 开发者关于管理大型语言模型成本和配置的个人经验分享。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<p>Two subscriptions kept running dry while a third sat at one percent. That was the whole finding, and it took an inventory to see it. My fleet runs about sixteen scheduled jobs: a nightly drain of the work queue, a noon pass, a disclosure gate that votes on every commit, a memo…