AWS 为 Amazon SageMaker AI 推出了一项新的跨区域推理路由功能,旨在解决区域容量短缺问题。这项新的资源——推理路由器,允许应用程序跨越多个 AWS 区域和账户使用单一调用路径。Salesforce 早期采用了此功能,利用它来管理其遍布 30 多个区域的全球模型服务基础设施,提高了可靠性并解决了容量碎片化问题。 AI
影响 增强了 AI 模型服务基础设施的可靠性和可扩展性,尤其是在全球运营方面。
排序理由 这是现有 AWS 产品的新功能发布,而非前沿模型发布。
在 Mastodon — mastodon.social 阅读 →
- Amazon SageMaker
- AWS
- Salesforce
- Agentforce
- Agentforce Foundation
- Amit Gupta
- Mark Wang
- Salesforce Trust Layer
- Amazon SageMaker AI
- AWS_REGION
- graphics processing unit
- Inference Router
AI 生成摘要 · Google Gemini · 来自 7 个来源。 我们如何撰写摘要 →