Qwenfant

Qwenfant 模型凭借 LLM 生成的数据在 BabyLM 挑战赛中名列前茅

研究人员开发了 Qwenfant，一个基于 Qwen3 的字符级语言模型，该模型在 2026 BabyLM 挑战赛的多语言赛道上取得了第一名。通过使用 LLM 总结和翻译的数据、更大的模型规模以及字符级词汇表，并通过 LoRA 式微调实现，该模型的性能得到了提升。这种方法证明了高质量合成数据在训练先进语言模型方面的有效性。