一项针对发票提取的微调项目发现,使用Qwen2.5-1.5B-Instruct模型配合LoRA,大约100份已标注的发票足以在已知布局上达到98%的准确率。在多达1000份发票上进行训练,仅在已知布局上带来了1.6%的边际改进,而在未知布局上的性能则稳定在77-81%左右,与仅使用提示词的效果相当。有趣的是,在仅25份发票的小型数据集上进行训练,准确率反而低于不进行任何微调仅使用提示词的情况,这表明应将少量已标注的示例包含在提示词中,而不是用于训练。 AI
影响 通过了解最佳数据量,提高了特定任务的微调效率,减少了不必要的标注工作。
排序理由 该条目详细说明了一项关于微调特定任务模型的具体实验和发现,包括方法和结果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →