HGEMM

AI系统CUDA-L2在矩阵乘法方面超越NVIDIA的cuBLAS

研究人员开发了CUDA-L2系统，该系统利用大型语言模型和强化学习自动优化矩阵乘法CUDA核函数。该系统通过探索人类优化难以企及的巨大配置空间，显著优于包括NVIDIA的cuBLAS和cuBLASLt库在内的现有基线。CUDA-L2在离线和模拟实时推理场景中均实现了显著的加速，展示了AI驱动的自动化在性能关键型计算任务中的潜力。