研究人员开发了一种名为“通过适配器唤醒编码器”(EAVA)的新方法,以改进语音大语言模型(Speech-LLMs)在自动语音识别(ASR)领域的领域自适应微调。该方法通过在语音编码器的每一层训练轻量级适配器,在保留预训练信息的同时融入目标领域声学知识。随后,使用低秩适配器(LoRA)对整个模型在LLM上进行联合微调。实验表明,EAVA在包括儿童和方言语音在内的领域偏移数据集上超越了现有方法,确立了新的最先进性能。 AI
影响 提高了在领域偏移语音上的ASR性能,可能为不同用户群体提供更鲁棒的语音接口。
排序理由 详细介绍一种用于微调语音大语言模型新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →