Prompt-Conditioned Layer Mixer

新基准揭示音频LLM在副语言理解方面存在困难

研究人员开发了VoxParadox，一个旨在测试音频大型语言模型（Audio LLM）副语言理解能力的新基准。该基准包含2000个合成示例，故意将语音内容与说话风格进行不匹配，以评估这些模型在辨别语气和情感等细微差别方面的能力。评估显示，当前的音频LLM常常优先考虑文本信息而非声学线索，导致在理解副语言方面出现重大失误。为解决此问题，研究团队提出了提示条件层混合器（PCLM）和直接偏好优化（DPO），这些方法显著提高了在副语言任务上的性能。