Coinbase 通过优化模型路由和缓存将 AI 支出削减 50%

Coinbase 通过实施战略性的模型使用和基础设施方法，成功将 AI 支出减半。该公司通过默认工程师使用成本效益更高的开源模型（如 GLM 5.2 和 Kimi 2.7），同时仍允许他们在必要时选择更强大、更昂贵的模型来实现这一目标。成功的关键在于缓存、基于任务的路由以及提高对每位工程师 token 使用量的可见性，从而在不影响开发人员生产力的情况下显著降低了成本。 AI

影响 展示了降低 AI 运营成本的实用策略，可能会影响企业采用更高效的模型路由和缓存技术。

排序理由 该条目详细介绍了特定公司内部 AI 使用的基础设施和成本优化策略，而不是新的模型发布或基础研究。

在 dev.to — LLM tag 阅读 →

• Anthropic Opus 4.7
• Anthropic Opus 4.8
• Brian Armstrong
• Coinbase
• DeepSeek v4
• GLM 5.2
• Kimi 2.7
• Lindy
• Moonshot AI
• OpenAI
• Snowflake
• Zhipu AI

• 基础设施
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →