PulseAugur
实时 20:39:39
English(EN) Switchyard routes LLM traffic across providers while preserving native OpenAI and Anthropic API compatibility. It translates between OpenAI Chat, Anthropic Mess

开源 Switchyard 可在不同提供商之间路由 LLM 流量

Switchyard 是一个新推出的开源工具,用 Rust 开发,充当大型语言模型的流量路由器。它可以在不同的 API 格式之间翻译请求,包括 OpenAI Chat、Anthropic Messages 和 OpenAI Responses。该项目在 GitHub 上发布的第一周就获得了 525 颗星,获得了显著的关注。 AI

影响 使开发人员能够更轻松地集成和切换不同的 LLM 提供商,从而可能减少供应商锁定。

排序理由 该条目描述了一个用于路由 LLM 流量的新开源软件工具。

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

开源 Switchyard 可在不同提供商之间路由 LLM 流量

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    Switchyard 在提供商之间路由 LLM 流量,同时保留原生的 OpenAI 和 Anthropic API 兼容性。它在 OpenAI Chat、Anthropic Mess 之间进行翻译

    Switchyard routes LLM traffic across providers while preserving native OpenAI and Anthropic API compatibility. It translates between OpenAI Chat, Anthropic Messages, and OpenAI Responses formats in Rust. It has picked up 525 stars in the last week. https:// github.com/NVIDIA-NeMo…