USCIS Policy Manual

新数据集和微调的Llama模型应对美国移民法

研究人员开发了ImmigrationQA，这是一个包含17,000多个关于美国移民法问题的问答对的新数据集，数据来源于官方文件和社区论坛。他们使用参数高效的LoRA在该数据集上微调了Llama 3.2 3B Instruct模型，与基础模型相比，平均得分提高了27%。虽然微调后的模型在程序性领域有所提升，但在复杂的法律推理方面仍有困难，该项目的产出已公开发布。