Self-Explainable Latent Reasoning

新研究应对大语言模型推理、效率和蒸馏挑战 · 跟踪 10 个来源

新研究探索了提高大语言模型（LLMs）推理能力和效率的方法。一篇论文引入了“Trace as State”，通过将推理痕迹置于上下文块之前来增强长上下文推理，在各种模型和数据集上显示出显著的性能提升。另一项研究提出了“SALA”，用于上下文学习中的语义感知逻辑对齐，改进了复杂推理任务的演示选择。此外，关于“HEAL”的研究旨在通过解决当前蒸馏技术的局限性，从 LLMs 中将推理蒸馏到更小的模型中，其灵感来源于教育理论。