SpGEMM

AI 系统优化科学计算的 GPU 内核性能

研究人员开发了两个新颖的系统 SparseDitto 和 KernelBrain，旨在优化各种计算任务的 GPU 内核性能。SparseDitto 利用基于 LLM 的代理生成稀疏矩阵运算的自定义 GPU 内核，在 NVIDIA 硬件上实现了比 cuSPARSE 等现有库显著的加速。KernelBrain 采用粗粒度到细粒度、预算感知的搜索策略来优化 GPU 内核，与 PyTorch 和其他最先进的内核代理相比，提高了质量和效率。