Erdős minimum-overlap problem

Evolution Fine-Tuning 教会LLM跨任务学习

研究人员推出了一种新颖的训练范式Evolution Fine-Tuning (EFT)，旨在教会大型语言模型 (LLMs) 如何在各种任务中演化解决方案。通过将进化搜索轨迹转化为监督信号，EFT旨在使LLMs能够从过去的经验中学习，而不是从头开始解决每个新问题。这种方法已经展示了跨任务泛化能力，经过微调的模型在未见过的任务上表现出显著的性能提升，并在圆圈打包和Erdős最小重叠问题等特定优化问题上达到了最先进的结果。