实体
ml.p4d.24xlarge
ml.p4d.24xlarge
PulseAugur coverage of ml.p4d.24xlarge — every cluster mentioning ml.p4d.24xlarge across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
SageMaker 推理支持通过 NVIDIA MIG 进行 GPU 分区
Amazon SageMaker 推理现已支持 NVIDIA 多实例 GPU (MIG) 技术。此功能允许将单个物理 GPU 分割成多个独立的实例,每个实例都拥有专用的计算和内存资源。此前,即使是较小的模型,用户也必须分配整个 GPU,导致利用率不足或为未使用的容量付费。MIG 能够在一台实例上部署更多模型,提供硬件强制隔离以实现可预测的延迟和容错能力,并允许根据模型需求正确调整 GPU 分配大小。
-
AWS SageMaker AI 与 MLflow 集成,用于模型监控和基准测试
Amazon SageMaker AI 正在通过与 MLflow 集成来增强其功能,为机器学习模型提供更好的监控和基准测试。首次集成侧重于监控判别式模型的数据和模型漂移,允许用户跟踪准确性和输入数据的统计属性。第二次集成能够将生成式 AI 模型的基准测试和推荐结果实时流式传输到 MLflow,从而更容易比较不同的配置并提高可复现性。