PulseAugur
中
实时 10:02:57
English(EN) Hierarchical Data Selection via Manifold Coverage and Sparse Feature Coverage in LLM Post-training

新的MASS方法改进了LLM后训练数据选择

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为MASS的新方法，用于为大型语言模型（LLM）后训练选择高价值数据子集。这种分层方法解决了现有方法在原始嵌入空间中测量多样性的局限性，这些方法可能会混淆主导语义方向、细粒度监督差异和局部噪声。MASS首先使用密集自动编码器学习低维主流形坐标，以进行粗粒度语义分组，然后通过TopK稀疏自动编码器在每个组内应用质量感知稀疏特征覆盖。在Vision Flan和LLaVA-CoT数据集上的实验表明，MASS的性能始终优于其他数据选择基线，并且在某些情况下，仅使用一小部分数据即可达到与完整数据训练相当的性能。 AI

影响 该方法通过使用更小、更有效的数据集，可以显著降低训练成本并提高LLM的性能。

排序理由 该集群包含一篇学术论文，详细介绍了LLM后训练的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的MASS方法改进了LLM后训练数据选择

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Peng Sun, Yi Yang, Antong Zhang, Chunxiao Li, Yanbo Wang, Dianbo Liu, xin chen, Kai Yu, Lu Chen, Tianfan Fu ·

    LLM 后训练中的流形覆盖与稀疏特征覆盖实现分层数据选择

    arXiv:2608.16927v1 Announce Type: new Abstract: As supervised fine-tuning data continues to scale, selecting high-value subsets from large candidate pools is crucial for reducing training cost and improving model performance. Existing methods often measure diversity directly in t…

相关实体

相关话题