Zichun Yu

新框架SynPro助力LLM从有限有机数据中学习

研究人员开发了SynPro框架，旨在增强大型语言模型（LLM）在面对有限有机数据时的学习过程。SynPro利用重述和重新格式化技术，通过强化学习进行优化，以多样化的方式呈现现有数据，从而在不引入新信息的情况下促进更深入的学习。该方法旨在解决LLM预训练中的数据约束问题，即可用的人类文本不足以满足扩展需求。对不同规模模型的实验表明，SynPro可以有效提高有机数据的效用，在某些规模下甚至超过了标准重复，并且优于非数据约束型Oracle。