SageMaker Insights

AWS SageMaker 通过 CloudWatch 仪表板增强 AI 推理监控

Amazon SageMaker 通过在 Amazon CloudWatch 中集成详细指标和新的 Insights 仪表板，增强了对生成式 AI 推理端点的监控能力。此次升级通过提供超过 100 项新指标，使用户能够更有效地解决 GPU 内存压力或延迟峰值等问题。SageMaker Insights 仪表板跨性能、容量和可靠性提供车队、端点和推理组件级别的视图，简化了复杂多模型部署的可观察性。