Quokka Labs

Snowflake Cortex AI Gateway通过动态模型路由提高效率

Snowflake 增强了其 Cortex AI Gateway 的动态模型路由功能，旨在显著降低 LLM 的运营成本。该公司声称内部测试显示，在某些工程任务中，Token 效率可提高高达三倍。这一发展表明，为每个请求都依赖最强大的模型可能是一种过时且低效的策略，强调了优化 LLM 使用以改善单位经济效益的重要性。