研究人员开发了MegaFold,一个旨在提高大规模3D注意力蛋白质模型训练效率的新系统。该方法解决了像AlphaFold3这样模型带来的显著计算和内存挑战,这些模型具有随序列长度呈立方增长的成本。MegaFold集成了内存高效内核、通信高效分片、融合算子和优化的主机-设备流水线,以提高GPU利用率。在NVIDIA H200和AMD MI250 GPU上的评估表明,MegaFold能够处理更长的序列并缩短整体执行时间。 AI
影响 能够更有效地训练复杂的蛋白质模型,可能加速生物分子发现。
排序理由 该集群包含一篇详细介绍AI模型训练新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →