glm47-flash

LiteLLM 实现多提供商 LLM 回退，增强可靠性

LiteLLM 是一个 AI 网关，通过统一的接口促进像 OpenAI、Anthropic、Azure 和 Vertex AI 等多个 LLM 提供商的使用。它提供了一种回退机制，当首选提供商或模型失败时，会自动将请求路由到备用提供商或模型，从而确保应用程序的可靠性。最佳实践包括平衡成本和性能、监控延迟和错误率等关键指标，以及利用上下文感知回退等功能来处理参数兼容性和长输入的自动路由。