GPU compilation

TrainBridge 使用 GPU 编译洞察优化 NPU 训练

研究人员开发了 TrainBridge，一种在 Ascend 神经网络处理单元 (NPU) 上优化训练效率的新型智能体方法。该方法利用成熟的 GPU 编译栈中的优化洞察来指导 NPU 程序重写，旨在减少碎片化计算和执行开销。实验表明，TrainBridge 在包括 LLM 预训练和图像分类在内的各种工作负载上平均可实现 1.7 倍的加速，在 Modded-NanoGPT 速度运行中接近 2.0 倍。