CuTe

LLM框架自动生成GPU内核，性能超越PyTorch

研究人员开发了CuTeGen，一个旨在自动化创建和优化高性能GPU内核的新框架。该代理系统采用生成、测试和优化内核的结构化工作流程，专门针对CuTe抽象层。通过在内核的高层结构稳定后再提供低层性能反馈，CuTeGen旨在克服先前基于LLM的方法的局限性。在KernelBench基准测试中，CuTeGen展示了比PyTorch平均1.71倍的速度提升，并超越了之前的代理基线。