Joseph Anton

新的 CuSeT 方法增强了 LLM CUDA 核生成

研究人员开发了一种名为 CUDA 感知指令调优 (CuSeT) 的新方法，以改进大型语言模型生成 CUDA 核。该技术解决了 CUDA 代码中隐式执行约束的挑战，而现有方法难以有效建模。CuSeT 基于“从 Token 到 Region”的原理，结合自适应 Token 级掩码和区域感知样本重加权，以增强功能正确性。实验表明，CuSeT 的性能优于标准和高级监督微调方法，以更低的推理成本取得了有竞争力的结果。