研究人员开发了LiveFoley,一个用于沉浸式交互应用的实时视频到音频生成的新颖系统。该系统通过采用用于视觉对齐的尾随滑动窗口和用于音频的扩展时间去噪窗口,解决了现有流媒体视频到音频方法中的延迟和质量问题。LiveFoley实现了156毫秒的端到端延迟,在对齐方面可与离线模型相媲美,并在音频生成质量方面超越了其他流媒体系统。 AI
影响 该系统可以通过提供与视频流实时、高质量的音频同步,显著增强沉浸式交互体验。
排序理由 该集群包含一篇详细介绍视频到音频生成新系统的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
- Future-Warmup LocDiT
- gpt-realtime
- History LocDiT
- LiveFoley
- MMAudio
- Trailing Sliding Window
- Unified Varhop Framework
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →