PulseAugur
实时 05:49:06
English(EN) Kernel Forge: An Agent Harness for LLM-based Generation and Optimization of CUDA Kernels

Kernel Forge 工具集优化 AI 模型的 CUDA 内核

研究人员开发了 Kernel Forge,一个开源的代理工具集,旨在自动生成和优化 LLM、视觉和扩散模型的 CUDA 内核。该工具接受未经修改的 PyTorch 模型,并利用蒙特卡洛树搜索探索优化路径,提供图形界面进行监控和调试。Kernel Forge 在多种模型(包括 ResNet-50Stable Diffusion 3.5 MediumGemma 4-E2BQwen 3.5-35B-A3B)的各种内核上,性能得到了显著提升,优于 PyTorch 的 eager 模式。 AI

影响 通过自动化 GPU 内核优化来加速 AI 模型性能,减少对专家工程师的依赖。

排序理由 该集群描述了一篇研究论文,详细介绍了一种用于优化 CUDA 内核的新型代理工具集。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Kernel Forge 工具集优化 AI 模型的 CUDA 内核

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Joshua Brodsky, Dhravid Kumar, Savini Kashmira, Jayanaka Danatanarayana, Jason Mars, Krisztian Flautner, Lingjia Tang ·

    Kernel Forge:一个用于LLM驱动的CUDA核生成与优化的Agent框架

    arXiv:2607.24762v1 Announce Type: new Abstract: Machine learning models are increasingly embedded in everyday software, and most of their runtime is spent in a small set of compute kernels such as matrix multiplication, convolution, and normalization. Optimizing these kernels is …