一篇新研究论文介绍了一种名为组合数据选择(CDS)的框架,旨在改进大型语言模型(LLM)微调的数据选择。该框架考虑了数据池通常包含不同领域以及样本在训练过程中可能以非加性方式相互作用的现实情况。提出的“先混合后选择”算法首先确定每个领域的最佳样本数量,然后对这些领域内的样本进行排序。该方法在真实世界的指令微调数据上,比现有方法提高了 20-54%,并且适用于数据购买问题。 AI
影响 通过优化数据选择过程,可能带来更高效、更有效的 LLM 训练。
排序理由 学术论文,介绍了一种用于 LLM 数据选择的新框架和算法。 [lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Combinatorial Data Selection
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Large Language Model
- Litmaps
- Mixture-then-Select
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →