Mixture-then-Select

新框架通过组合数据选择提升 LLM 微调效果

一篇新研究论文介绍了一种名为组合数据选择（CDS）的框架，旨在改进大型语言模型（LLM）微调的数据选择。该框架考虑了数据池通常包含不同领域以及样本在训练过程中可能以非加性方式相互作用的现实情况。提出的“先混合后选择”算法首先确定每个领域的最佳样本数量，然后对这些领域内的样本进行排序。该方法在真实世界的指令微调数据上，比现有方法提高了 20-54%，并且适用于数据购买问题。