PulseAugur
中
实时 22:01:32
English(EN) InfoSFT: Learn More and Forget Less with Information-Aware Token Weighting

InfoSFT 方法通过关注信息令牌来改进 LLM 学习

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了一种名为 InfoSFT 的新方法，用于大型语言模型的监督微调，该方法专注于信息量最大的令牌进行学习。此方法旨在提高模型在数学和编码等各种任务上的泛化能力，同时更好地保留模型现有能力。InfoSFT 通过根据令牌的置信度对其进行加权来实现这一点，将更新集中在中等置信度、新颖的信息上，而不是统一拟合所有数据。 AI

影响 通过关注信息丰富的数据来增强 LLM 微调，有望实现更高效的学习和更好地保留先前能力。

排序理由 该集群包含一篇学术论文，详细介绍了 LLM 微调的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

InfoSFT 方法通过关注信息令牌来改进 LLM 学习

报道来源 [1]

  1. arXiv stat.ML TIER_1 English(EN) · Hamed Hassani ·

    InfoSFT: Learn More and Forget Less with Information-Aware Token Weighting

    Supervised fine-tuning (SFT) provides the standard approach for teaching LLMs new behaviors from offline expert demonstrations. However, standard SFT uniformly fits all samples -- including those with low likelihood under the base model -- which can disproportionately drive train…

相关实体

相关话题