Dynamic Memory Update

GFlowPO框架使用生成流网络优化语言模型提示

研究人员推出了一种新颖的语言模型提示优化框架 GFlowPO。该方法利用生成流网络 (GFlowNets) 进行高效的离策略学习，使其能够重用过去的提示评估。GFlowPO 还包含一个动态内存更新机制，通过整合多样化和表现最佳的示例来逐步优化高奖励提示的搜索。该框架在少样本文本分类、指令归纳和问答等各种任务上，均展现出优于现有离散提示优化基线方法的性能。