DirectS2ST

新方法增强了富有表现力的语音到语音翻译

研究人员为富有表现力的语音到语音翻译（S2ST）引入了一种新颖的训练数据构建策略。该方法结合了专业配音和多语言语音转换，以创建并行监督，从而在内容、韵律、时间和说话人身份上对源语音和目标语音进行对齐。该策略使用现有的S2ST系统和一种新开发的名为DirectS2ST的端到端方法进行了评估。在英语-德语和英语-西班牙语上的实验表明，所有评估系统在富有表现力的实现方面都有显著改进，其中DirectS2ST显示出最实质性的收益。