NVIDIA TensorRT

Faster IndexTTS-2 在 GPU 上加速文本到语音合成

研究人员开发了 Faster IndexTTS-2，一种显著加速 IndexTTS-2 文本到语音模型以用于 GPU 部署的方法。新版本优化了自回归 GPT 和 Diffusion Transformer 组件，GPT 加速高达 5.0 倍，端到端加速高达 3.6 倍。Faster IndexTTS-2 还引入了用于交互式应用的流式合成功能和最大化 GPU 利用率的批量推理，同时对合成质量的影响极小。