实体
Open MPI
Open MPI
PulseAugur coverage of Open MPI — every cluster mentioning Open MPI across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究模拟异构计算的多供应商MPI集合
一篇新研究论文探讨了将并行计算中的通信预测理论扩展到异构环境。该研究详细介绍了一种新方法,该方法使用多供应商MPI集合,将NVIDIA A100、AMD MI100和CPU进程组合在一个通信器下。研究强调了理论预测与实际性能之间的差异,特别是对于MI100,并提出了一个启动几何模型,以更好地预测此类复杂系统中的性能。
-
新框架HetCCL提升混合硬件集群上的LLM训练效率
研究人员开发了HetCCL,一个旨在提高用于训练大型语言模型的异构计算集群中集体通信效率的新框架。该框架通过实现不同供应商硬件之间高效的点对点传输,减少了开销并消除了主机-设备内存复制成本,从而解决了现有系统的局限性。HetCCL创新的边界通信器机制和分层拓扑抽象允许进行供应商无关的归约操作和优化的数据传输,从而带来显著的带宽提升和更快的端到端训练时间。