AI系统CUDA-L2在矩阵乘法方面超越NVIDIA的cuBLAS

研究人员开发了CUDA-L2系统，该系统利用大型语言模型和强化学习自动优化矩阵乘法CUDA核函数。该系统通过探索人类优化难以企及的巨大配置空间，显著优于包括NVIDIA的cuBLAS和cuBLASLt库在内的现有基线。CUDA-L2在离线和模拟实时推理场景中均实现了显著的加速，展示了AI驱动的自动化在性能关键型计算任务中的潜力。 AI

影响 展示了AI在高度优化的计算核函数中显著提升性能的能力，可能影响科学计算和AI基础设施。

排序理由 该集群描述了一篇详细介绍使用AI技术优化计算核函数的新颖系统的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• cuBLAS
• cuBLASLt
• CUDA-L2
• HGEMM
• Jiwei Li
• large language models
• NVIDIA
• reinforcement learning

• 基础设施
• 论文
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →