R1-Distill 8B

新的COBALT方法使用离线数据改进LLM代码生成

研究人员推出了一种新颖的多轮代码生成大型语言模型（LLM）训练方法COBALT。该方法利用离线轨迹，比传统的在线强化学习更具成本效益和稳定性。COBALT将多轮代码生成视为一步可恢复的马尔可夫决策过程，训练LLM通过单步代码生成来完成部分轨迹。在LiveCodeBench上的实验表明，R1-Distill 8B和Qwen3 8B等模型取得了显著改进，性能与现有的在线RL基线相当。