研究人员开发了 BOOST,一个新颖的双层优化框架,旨在改进大型语言模型 (LLM) 在多轮交互中的微调。该方法解决了离线强化学习中使用的合成轨迹数据质量不一的挑战。BOOST 通过重新加权合成轨迹来优化 LLM,根据其与真实数据的一致性和定性优点分配连续权重,从而提高了性能,优于传统基线。 AI
影响 通过改进合成数据利用率,增强 LLM 在复杂、多轮对话中的能力。
排序理由 发表了一篇关于 LLM 微调新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →