RetryRoute

新的RetryRoute系统优化AI图像编辑服务

研究人员开发了一个名为RetryRoute的新路由系统，旨在优化依赖AI模型的图像编辑服务。该系统解决了“粘性故障”问题，即使用同一模型重试失败的编辑成功率会显著降低。RetryRoute根据请求的失败历史智能规划重试、升级和放弃，并结合实时队列等待时间进行负载感知调度。在测试中，RetryRoute比之前的基线更有效地提高了成功率并达成了服务级别目标。