研究人员推出了一种新颖的文本生成方法——共识组相对策略优化(C-GRPO),旨在降低与样本重排序解码相关的计算成本。与通常需要黄金参考或显式偏好数据的先前方法不同,C-GRPO仅使用效用函数和策略样本将最小贝叶斯风险(MBR)解码提炼到训练中。所提出的目标函数被证明与MBR解码的期望效用目标一致,并提供了收敛保证。在机器翻译和文本摘要任务上的实验表明,C-GRPO在性能上可与MBR解码相媲美,同时优于其他无参考方法。 AI
影响 这种新方法通过减少推理过程中的计算开销,可能带来更高效的文本生成模型。
排序理由 该集群包含一篇详细介绍文本生成新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- C-GRPO
- Consensus Group Relative Policy Optimization
- Minimum Bayes-risk automatic speech recognition
- WMT 2024
- XSum dataset
- Yuki Ichihara
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →