Snowflake 增强了其 Cortex AI Gateway 的动态模型路由功能，旨在显著降低 LLM 的运营成本。该公司声称内部测试显示，在某些工程任务中，Token 效率可提高高达三倍。这一发展表明，为每个请求都依赖最强大的模型可能是一种过时且低效的策略，强调了优化 LLM 使用以改善单位经济效益的重要性。 AI
影响 优化 LLM 的使用和路由可以为 AI 驱动的应用程序带来显著的成本节约。
排序理由 云服务提供商的产品更新，增强了现有服务。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p><a href="https://www.snowflake.com/en/blog/dynamic-model-routing-open-models-cortex-ai/" rel="noopener noreferrer">Snowflake</a> pushed dynamic model routing deeper into Cortex AI Gateway, saying internal tests delivered up to 3× better token efficiency on some engineering wor…