training/defense_training_data.py

AI训练数据去重删除了关键的防御性示例

一位开发者在训练流程中遇到了一个问题，去重操作意外删除了加权示例，导致他们在提升语言模型防御能力方面的努力付诸东流。该模型 Qwen2.5-3B-Instruct 搭配 MLX LoRA 适配器，在进攻方面表现良好，但在防御方面却举步维艰。创建加权课程的尝试，即重复高价值的训练示例，被一个去重步骤所抵消，该步骤移除了每个唯一示例的第一个实例之外的所有实例，从而大大降低了最终训练数据中关键防御性回合的比例。