T-CCL

新的 T-CCL 库利用 TMA 提升多 GPU AI 模型性能

研究人员开发了 T-CCL，这是一个专为大型 Transformer 模型中高效多 GPU 执行而设计的新型集体通信库。T-CCL 利用张量内存加速器 (TMA) 来卸载数据移动和归约操作，显著减少了 GPU 流式多处理器 (SM) 上所需的计算资源。这种减少使得通信和计算能够更好地并发执行，从而提高性能。评估显示，在资源受限的条件下，T-CCL 的性能比 NCCL 等现有库高出 3.42 倍，并提高了 vLLM 等系统中的端到端推理吞吐量。