研究人员发现,将大型语言模型中的潜在思维链(CoT)推理扩展到固定视野有时会降低性能。该研究识别出潜在CoT的不同阶段,其中早期计算对于推理至关重要,而后期阶段可能会重组现有信息并削弱准确性。这表明需要重新思考固定视野的推理。研究人员提出了一种估计剩余推理进度并自适应调整推理过程中潜在视野的方法,该方法在不重新训练LLM的情况下,在算术基准测试上将推理准确性提高了多达7.2个百分点,同时将计算量减少了多达29.0%。 AI
影响 这项研究可能通过动态调整推理视野,从而实现更高效、更准确的LLM推理。
排序理由 这是一篇详细介绍LLM推理相关新发现和新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Influence Flower
- Litmaps
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →