Task-Perturbed NLL Optimization

新研究将任务不敏感性确定为语言代理的关键弱点

研究人员已将“任务不敏感性”确定为大型语言模型作为代理时，在分布外泛化能力较弱的关键原因。当模型将学到的模式应用于新的、相似的任务时，即使指令被损坏或语义改变，也会发生这种现象。为解决此问题，提出了一种名为任务扰动 NLL 优化（Task-Perturbed NLL Optimization）的新方法，该方法作为一种正则化器，确保行为更依赖于任务指令。评估表明，此干预措施在保持对任务相关信息的关注的同时，提高了任务敏感性和泛化能力。