Fable 5.0

开源AI网关OmniRoute凭借统一LLM访问获得关注 · 跟踪4个来源

OmniRoute，一个开源AI网关，在GitHub上迅速获得关注，已获得超过11,000颗星。它充当开发者的统一端点，可以访问231个不同的LLM提供商，旨在简化API管理、防止达到速率限制并降低成本。该工具提供高级功能，如组合路由（在多个模型之间自动回退）和令牌压缩以显著降低费用，使其成为AI应用的宝贵基础设施层。