spex

新研究通过推测性方法和物理洞察力提升LLM推理能力

近期研究探索了增强大型语言模型（LLM）推理能力和效率的新方法。论文介绍了诸如思维之树（Tree-of-Thought）推理的推测性探索等技术，以打破同步瓶颈并实现显著的加速。其他工作则侧重于通过在推理时修剪错误的工具调用来改进工具集成推理，并开发机器人框架，使其在执行物理操作前能在潜在空间中进行物理推理。此外，研究还调查了辩论和投票等不同推理协议对LLM的有效性，发现虽然某些方法提高了安全性，但并不总是能增强实用性。