研究人员开发了KernelFoundry,一个旨在优化大型语言模型GPU核的演化式框架。该系统利用MAP-Elites进行质量多样性搜索,通过元提示演化发现任务特定的优化策略,并进行基于模板的参数调优以适应硬件和输入。KernelFoundry在SYCL核的KernelBench基准测试中持续优于基线方法,平均提速2.3倍,并能生成CUDA核。 AI
影响 这项研究可能带来在专用硬件上更高效的AI模型执行。
排序理由 该集群包含一篇学术论文,详细介绍了一种新的GPU核优化方法。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- CUDA
- graphics processing unit
- Hugging Face
- Kernel-Bench
- KernelFoundry
- MAP-Elites
- Nina Wiedemann
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →