Jiaqi Song

新的ASR方法使用熵分配来改进LLM集成并减少幻觉

研究人员开发了一种将大型语言模型（LLM）集成到自动语音识别（ASR）系统中的新方法，解决了延迟、开销和幻觉等挑战。所提出的方法通过熵分配的视角重新审视了基于LLM的ASR，引入了度量标准来分析训练范式如何在语音编码器和LLM之间分配熵减少。为了提高效率和对抗幻觉的鲁棒性，引入了一种多阶段训练策略，包括重新设计预训练以弥合语音-文本模态差距，以及一个迭代的异步SFT阶段，以保持功能解耦并防止编码器表示漂移。