研究人员开发了无需对齐的 Text-Audiobox (Text-AB),一个用于语音配音和对话合成的新型框架。该系统利用具有流匹配目标的扩散 Transformer,并在使用 DAC-VAE 特征进行高保真音频压缩的潜在扩散框架内运行。一项关键创新是其无需对齐的方法,它通过交叉注意力学习文本-语音对齐,无需显式对齐或持续时间预测。该系统在 480,000 小时的海量语音数据集上进行了预训练,生成了一个拥有 30 亿参数的模型,能够进行高质量的语音配音和全双工对话合成,在自然度和表现力方面优于之前的系统。 AI
影响 这个新框架可以显著提高语音配音和对话合成应用的质量和效率。
排序理由 该集群描述了一篇关于文本到音频合成新框架的详细研究论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →