Stackelberg Alignment

新的Stackelberg对齐框架增强了LLM的协同能力

研究人员开发了Stackelberg对齐（Stackelberg Alignment），一个通过协同学习改进语言模型的新框架。这种受博弈论启发的方​​法使用自适应课程来选择指令，随着模型的演进，优先选择提供最有价值学习信号的指令。实验表明，Stackelberg对齐在各种基准测试中的表现显著优于现有方法，通过智能地将训练精力集中在信息量最大的任务上，从而实现了更高的性能。