NVIDIA TensorRT

AI 模型加速语音合成并实现实时翻译

研究人员开发了 Faster IndexTTS-2，一个显著加速 GPU 部署的自回归文本到语音模型系统。新版本将 GPT 组件的推理速度提高了 5.0 倍，端到端速度提高了 3.6 倍，同时还能实现流式合成和批量推理，而对音频质量的影响极小。另外，OpenAI 已悄然推出 GPT-Realtime-Translate，一个能够跨 70 多种语言进行实时翻译的语音到语音翻译模型，定价为每分钟 0.034 美元。