Amazon EC2 P6e

AWS 使用 GPUDirect Storage 和 FSx 缩短 LLM 加载时间

AWS 推出了一种新方法，可以显著加快大型语言模型加载到 GPU 实例的速度。通过将 NVIDIA GPUDirect Storage (GDS) 与 Amazon FSx for Lustre 结合使用，模型权重可以直接加载到 GPU 内存中，绕过 CPU 和 PCIe 总线。此优化将模型加载时间从几分钟缩短到几秒钟，从而减少了首次令牌（TTFT）的总时间，并使昂贵的 GPU 资源能够更快地用于推理。