Ulanbek Abdurazakov

新的 GEPARD TTS 模型为对话实现 15 倍实时速度

研究人员开发了 GEPARD，这是一种新颖的文本到语音模型，专为实时对话应用而设计。该模型利用 LLM 主干进行自回归语音生成，并利用神经编解码器进行波形解码，使其能够在处理文本时逐步流式传输音频。GEPARD 经过工程设计，可与 vLLM 等标准 LLM 服务引擎高效运行，在单流情况下实现约 0.067 的实时因子（比实时快 15 倍），并在并发使用下实现显著的聚合加速。