研究人员推出RetroGen,一个新颖的框架,旨在通过利用回顾式过程监督来改进大型语言模型中的长篇生成。该方法从丰富的、高质量的最终产物(如文献综述或法律判决)中重建潜在轨迹,这些产物作为证据搜寻过程的压缩痕迹。通过将这些重建的轨迹与产物和支持性证据进行验证,RetroGen可以在不需要更强模型的轨迹数据的情况下进行训练。实验表明,这种方法增强了基础性、忠实合成和证据搜寻代理任务。 AI
影响 增强了LLM在基于证据的长篇生成方面的能力,可能改进需要事实合成的应用。
排序理由 该集群包含一篇详细介绍LLM生成新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →