研究人员推出了一种新颖的多轮代码生成大型语言模型(LLM)训练方法COBALT。该方法利用离线轨迹,比传统的在线强化学习更具成本效益和稳定性。COBALT将多轮代码生成视为一步可恢复的马尔可夫决策过程,训练LLM通过单步代码生成来完成部分轨迹。在LiveCodeBench上的实验表明,R1-Distill 8B和Qwen3 8B等模型取得了显著改进,性能与现有的在线RL基线相当。 AI
影响 该方法为训练LLM执行复杂代码生成任务提供了一种更有效、更稳定的方法。
排序理由 该集群包含一篇详细介绍LLM训练新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →