研究人员开发了新的方法,通过优化大型语言模型(LLM)的思考过程来提高其推理能力。一种方法TTT-Consolidate使用多智能体推理轨迹作为训练数据,以增强模型后续的推理能力,在数学和STEM基准测试中取得了显著的进步。另一种策略Concise-9B通过自训练专注于去除模型思考过程中“松弛”或不必要的token,以更少的token实现了相当的准确性。第三项研究探索了在较小模型中进行开放式推理的测试时缩放,发现虽然它提高了数学问题的性能,但对自由文本生成的好处有限。 AI
影响 这些进展可能带来更高效、更准确的LLM,尤其是在数学和STEM问题解决等复杂推理任务中。
排序理由 arXiv上发表了多篇研究论文,详细介绍了提高LLM推理能力的新方法。
- arXiv
- Concise-9B
- Gemma 2-2B
- Hugging Face
- Llama 3.2:3b
- MMLU-Pro
- OpenParallelThinking
- Qwen2.5-3B
- Qwen3.5-9B
- SuperGPQA
- TTT-Consolidate
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →