Northern Kentucky University

知识蒸馏提升紧凑型AI模型在数学推理任务上的准确性

研究人员探索了知识蒸馏技术，以提高小型AI模型在复杂推理任务上的性能。他们使用大型推理模型DeepSeek-R1，在历史数学竞赛问题上训练了一个更紧凑的Qwen2.5-7B模型。经过微调的学生模型在准确性上有了显著提高，在竞赛数据集上的准确率提高了4个百分点以上，并且在单独的基准测试中也表现出良好的泛化能力。研究还发现，模型响应的长度与数学推理中的答案质量直接相关，响应越短，准确率越低。