新的MuEx框架实现多语言驱动人脸合成

研究人员开发了一个名为MuEx的新框架，旨在改进多语言驱动人脸合成。MuEx采用音素引导混合专家（PG-MoE）架构，利用音素和视觉素作为连接音频和视觉模态的通用中间件。该方法旨在克服当前主要基于英语数据训练且难以进行跨语言泛化的模型的局限性。该框架还包括一个音素-视觉素对齐机制（PV-Align）以实现更好的视听同步，以及一个包含12种语言的新多语言驱动人脸数据集（MTFD）。 AI

影响 这项研究有望显著提高多语言AI驱动视频生成质量和可访问性，从而实现更多样化的应用。

排序理由 该集群描述了一篇新发表在arXiv上的研究论文，该论文详细介绍了一种用于特定AI任务的新颖框架和数据集。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

• arXiv
• Hugging Face
• Muex
• Multilingual Talking Face Dataset
• Phoneme-Guided Mixture-of-Experts
• PV-Align
• Zibo Su

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →