一位开发者在训练流程中遇到了一个问题，去重操作意外删除了加权示例，导致他们在提升语言模型防御能力方面的努力付诸东流。该模型 Qwen2.5-3B-Instruct 搭配 MLX LoRA 适配器，在进攻方面表现良好，但在防御方面却举步维艰。创建加权课程的尝试，即重复高价值的训练示例，被一个去重步骤所抵消，该步骤移除了每个唯一示例的第一个实例之外的所有实例，从而大大降低了最终训练数据中关键防御性回合的比例。 AI
影响 凸显了大型语言模型训练流程中一个常见的陷阱，即数据处理步骤可能无意中损坏或删除有价值的训练数据，从而影响模型性能。
排序理由 该条目描述了在语言模型训练过程中遇到的技术问题，重点关注数据处理和流程实现，而非新的模型发布或重要的研究发现。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
