Ammar Hassona

新工具 TrainSafe 可捕获语言模型微调错误

一款名为 TrainSafe 的新开源工具已被开发出来，用于解决语言模型微调过程中遇到的问题。该工具的创建源于开发者在对阿拉伯语进行微调时，模型意外生成中文文本的经历，这表明低损失指标并不能保证训练成功。TrainSafe 可与 HuggingFace 和 TRL 管道集成，在每个评估检查点执行语言漂移、输出长度、重复、提示回显和格式一致性检查。如果模型的性能下降到设定的阈值以下，TrainSafe 可以停止训练过程并识别最后一个稳定检查点。