RelayS2S

新的RelayS2S架构大幅降低对话系统延迟

研究人员开发了RelayS2S，一种旨在降低实时对话系统延迟的新型双路径架构。该系统使用一个快速的推测性语音到语音（S2S）模型来生成即时响应前缀，而一个较慢的级联管道（ASR到LLM）则生成更高质量的续篇。一个验证器组件管理两个路径之间的过渡，确保速度和语义准确性之间的平衡。当与GPT-4.1等模型集成时，RelayS2S在保持高水平文本质量的同时显著降低了响应延迟，使其成为现有级联系统的即插即用组件。