研究人员开发了一个新的框架,用于优化Triton内核,这是一种用于AI加速器的代码类型。该系统采用分层诊断方法,首先从基本的性能指标开始,并在必要时升级到更深入的编译器分析。在Ascend NPU上进行测试时,该框架在基准测试套件中实现了显著的速度提升,几何平均值为4.35倍,中位数为2.73倍。 AI
影响 这项研究可能导致更高效的AI硬件利用和更快的AI模型执行。
排序理由 详细介绍AI硬件新优化框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Ascend 950
- Hugging Face
- LLM
- National Pingtung University of Science and Technology
- NPUKernelBench
- Triton
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →