P6-B200

AWS SageMaker AI 集成 NVIDIA Blackwell GPU 以优化大型模型训练

Amazon SageMaker AI 现已针对 NVIDIA Blackwell GPU 进行优化，可更高效地训练大型 AI 模型。配备 8 个 Blackwell GPU 的新型 P6-B200 实例提供更大的内存和更高的带宽，从而缓解了批次大小和序列长度受限等瓶颈。这使得更大的批次大小、简化的模型分片以及更长的序列长度成为可能，最终缩短迭代周期并降低基础设施成本。