Asad Aali

新的PLVR方法增强了小型语言模型的工具使用能力

研究人员开发了一种名为“具有可验证奖励的程序学习”（PLVR）的新方法，以提高小型语言模型的工具使用能力。PLVR将专家轨迹提炼成可重用程序，而无需更改模型的权重。该方法涉及前沿模型从重复操作中创建类型化原语和规则，然后使用参考动作和训练任务检查进行组装。一个小型、固定的模型执行这些原语，确定性验证器确保输出的正确性。生成的程序可以指导学生模型的推理或验证其动作，从而显著提高电信和零售基准等任务的性能。