研究人员开发了一种方法,通过将知识蒸馏成紧凑的自然语言技能来提高语言模型中推理的效率。这种方法通过将现有轨迹中的共享过程编译成一种技能,然后将其注入到非推理模型的系统提示中,从而分摊了推理的成本,而推理通常需要 3-6 倍的输出代币。在四个代理基准测试中,该技术为 GPT-5.4-mini 恢复了 55%-100% 以上的推理差距,通常在显著减少代币使用量的同时,性能优于推理模式。 AI
影响 这项技术可以显著降低 AI 代理复杂推理任务的计算成本,使其更高效、更易于访问。
排序理由 这是一篇详细介绍一种改进语言模型效率的新颖方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- ALFWorld
- arXiv
- GPT 5.4 Mini
- Hugging Face
- Reason Wide, Not Deep: Amortizing the Reasoning Premium into Distilled Skills
- SpreadsheetBench-Verified
- tau^2-Bench
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →