Neuron AI Router

Neuron AI Router 为 PHP 代理添加了自动 LLM 提供商故障转移

Neuron AI Router 是一个 PHP 库，它引入了一种新的后备策略来处理大型语言模型 (LLM) 提供商的瞬时错误。此功能允许开发人员定义一个有序的 LLM 提供商列表，如果初始提供商因速率限制或服务器过载等问题失败，则可以自动重试另一个提供商。此故障转移过程对代理是透明的，可确保对话在不丢失状态的情况下继续进行，并满足了 AI 应用程序可靠性的关键需求。