Seed1.6

ByteDance 和 清华AIR 训练大语言模型使用 CUDA Agent 编写更快的 GPU 代码

ByteDance Seed 和 清华AIR 开发了 CUDA Agent，一个使用强化学习训练大语言模型生成优化 GPU 核的系统。该系统在 KernelBench 基准测试中达到了 98.8% 的正确率，并且生成的核比编译器生成的代码快 96.8% 的时间。该 Agent 在模拟的 CUDA 开发环境中运行，结合了性能分析和正确性检查来提高核性能，在 AI 基础设施和其他延迟敏感领域具有潜在应用。