LongSpeech

语音模型通过新的文本压缩技术实现 64% 的 KV 缓存缩减

研究人员开发了一种新颖的方法来压缩全双工语音模型中的键值（KV）状态，显著减少了长时交互期间的内存使用。该技术被称为声学到文本 KV 压缩，在处理“空闲”时间内将传入语音转换为紧凑的文本格式。使用 MiniCPM-o 4.5 和 LoRA 实现该方法后，在十分钟的会话中，峰值流式 KV 缓存大小减少了 64.6%。该方法在转录、时间问答和摘要方面也表现出改进，同时在停顿处理、轮流对话和打断方面保持了可比的性能。