Encoder Awakening via Adapters

新的EAVA方法增强了语音大语言模型在ASR领域的适应性

研究人员开发了一种名为“通过适配器唤醒编码器”（EAVA）的新方法，以改进语音大语言模型（Speech-LLMs）在自动语音识别（ASR）领域的领域自适应微调。该方法通过在语音编码器的每一层训练轻量级适配器，在保留预训练信息的同时融入目标领域声学知识。随后，使用低秩适配器（LoRA）对整个模型在LLM上进行联合微调。实验表明，EAVA在包括儿童和方言语音在内的领域偏移数据集上超越了现有方法，确立了新的最先进性能。