Glore

新的ReLIT框架为LLM融合显式和隐式推理

研究人员推出ReLIT，一个将显式思维链提示与大型语言模型的隐式潜在推理相结合的新颖框架。这种混合方法使用一个轻量级的递归块来优化内部潜在状态，然后再生成输出，旨在降低传统思维链方法的计算开销。ReLIT在增强冻结的TinyLlama-1.1B骨干模型时，展示了参数效率和在GLoRE、ProofWriter和RuleTaker等逻辑推理基准上的强大性能，表明推理可以通过深度而非宽度进行扩展。