Amazon SageMaker HyperPod 引入了新的方法来检测和从大规模 AI 模型训练期间的静默数据损坏 (SDC) 中恢复。SDC 发生时,硬件(如 GPU)会产生不正确但看似合理的结果,而不会引发错误,这可能导致计算资源浪费和模型性能下降。新检查已集成到 PyTorch 的 DistributedDataParallel 训练循环中,可识别非有限梯度、比较权重指纹并执行环重放审计,以查明故障硬件。 AI
影响 增强了大规模 AI 训练基础设施的可靠性,减少了计算浪费,并提高了模型质量。
排序理由 这是一篇关于现有云服务新功能的技木博客文章,并非新的模型发布或研究突破。
在 AWS Machine Learning Blog 阅读 →
- Amazon SageMaker HyperPod
- DistributedDataParallel
- GitHub
- graphics processing unit
- infinitive
- Llama 3 405B
- Meta*
- Nan
- Nvidia
- NVIDIA H100
- PyTorch
- Silent Data Corruption Resilient Two-sided Matrix Factorizations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →