Procedural Exposure Bias

新研究发现语言模型代理中存在程序性暴露偏差

研究人员在语言模型代理中发现了一种称为程序性暴露偏差（PEB）的现象，即模型在相关程序性知识反复暴露后会越来越倾向于某个动作，即使上下文没有改变。这种偏差很大程度上受知识表征方式的影响；与文本表征相比，信息的视觉表征会减弱这种偏差。尽管视觉表征仍然允许信号恢复，但它们对下游动作预测的影响较小。在ALFWorld、ScienceWorld和WebShop等各种环境中的评估表明，使用视觉技能的代理比使用文本技能的代理取得了更高的任务成功率。