RetroThinker

RetroThinker框架提升语音LLM推理准确性

研究人员开发了RetroThinker，一个新颖的训练后框架，旨在增强基于语音的大语言模型（SpeechLLMs）的推理能力。该框架使Moshi等模型能够在推理过程中自我验证和纠正其推理步骤，解决了实时语音交互中准确性和延迟的固有权衡。在GSM8K基准上的评估表明，RetroThinker在不显著增加延迟的情况下显著提高了准确性，在可比速度下实现了11%的绝对准确率提升。