研究人员开发了一种增强版的Im2win卷积方法,旨在提高GPU上的内存效率和性能。该更新方法支持CUDA核心上的全精度和Tensor Core上的半精度,并结合了锯齿形内存访问和异步数据移动等优化。在十二项CNN任务上的基准测试显示出显著的改进,新的Im2win比仅限CUDA的版本实现了高达2.8倍的TFLOPS,并在速度和内存使用方面都优于标准的cuDNN和基于GEMM的卷积。 AI
影响 提高了深度学习模型的计算效率,可能加速GPU上的训练和推理。
排序理由 详细介绍在GPU上优化深度学习计算新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- CNN
- Cublas
- CUDA
- cuDNN: Efficient Primitives for Deep Learning
- GEMM
- graphics processing unit
- im2win
- Tensor Cores
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →