研究人员开发了一种名为局部原型重建(LPR)的新预训练方法,以提高语音到LLM系统的性能。LPR专注于确保语音和语言模型之间的桥梁与LLM的嵌入空间保持兼容性,超越了诸如下一个词预测等标准目标。这种方法在多语言自动语音识别(ASR)和语音翻译任务中取得了显著的进步,尤其是在低资源适应场景下。 AI
影响 这项研究可能带来更有效、更具适应性的语音到LLM系统,提高多语言和低资源翻译任务的性能。
排序理由 该集群包含一篇详细介绍新AI模型预训练方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Hugging Face
- Local Prototype Reconstruction
- multilingual ASR
- next-word prediction
- sentence-level contrastive pretraining
- Speech-to-LLM
- Speech translation
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →