PERSUADE~2.0

顺序微调提升 LLaMA 在论文评分方面的能力

研究人员开发了一种针对 LLaMA-3.1-8B 的顺序微调方法，通过考虑话语元素的相互依赖性，显著提高了自动论文评分 (AES) 的性能。该方法逐步在模型上训练论文的不同组成部分，如开头、论点、证据和结论，在某些指标上优于独立的特定任务模型和一个规模大得多的 LLaMA-70B 基线。研究表明，与话语结构一致的课程设计对于 AES 至关重要，并且更小、更专业的模型可以与更大的 LLM 竞争，为教育 NLP 提供更具成本效益的解决方案。