研究人员开发了 Fin-SD,一种用于开放权重语言模型的新型自我蒸馏技术,以提高其金融推理能力。该方法允许模型识别自身的推理错误并生成纠正性提示,然后用这些提示来训练模型的冻结副本。该技术在金融推理基准测试中展示了 3.03 个百分点的准确率提升,且无需外部教师模型或完整的参考解决方案,也不会对一般推理或合规性审计产生负面影响。 AI
影响 增强了小型、可本地托管的开放权重模型在金融等专业领域的推理能力。
排序理由 学术论文,详细介绍了改进语言模型推理的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →