lavita/medical-qa-datasets

Llama 3.2 3B 在清理后的数据集上针对医疗问答进行微调

对 Llama 3.2 3B 模型进行医疗问答微调的第二周，重点是数据准备。最初考虑使用 USMLE 多项选择题数据集，但该数据集不适合生成临床解释。随后，项目转向 ChatDoctor HealthCareMagic 100K 数据集，该数据集包含真实患者的问题和医生回复。开发了一个清理流程，用于移除特定平台的填充词、结尾的署名和输入伪影，同时还根据质量和内容长度进行过滤。