Fireworks AI 推出了其推理基础设施的新 GLOBAL 选项，允许工作负载部署到多个区域和云提供商。此功能旨在通过动态将请求路由到最广泛的可用 GPU 池来提高容量和可靠性，同时遵守用户定义的参数，如硬件要求、成本和数据驻留。该公司报告称，在生产研究中，请求成功率从单区域部署的 99.269% 显著提高到多区域部署的 99.992%。 AI
影响 通过实现动态、多区域路由，增强了 AI 推理工作负载的 GPU 容量和可靠性。
排序理由 这是推理基础设施提供商的产品更新，而不是前沿模型发布或重大行业事件。
在 X — Fireworks (inference infra) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
