研究人员推出了一种新颖的因果预训练方法 Mix Forcing,旨在改进交互式视频世界模型。该技术采用混合双向和自回归(MoBA)注意力机制,结合了教师强制和双向训练来训练模型,以保留视觉先验并实现自回归生成。该方法还包含一个分块交叉注意力机制,用于在线文本交互,在不泄露未来指令的情况下,根据环境和局部提示来调整视频块。实验表明,通过 Mix Forcing 预训练的模型在生成时间较长的情况下,也能达到最先进的视觉质量和时间精度。 AI
影响 提高了交互式视频生成模型的质量和时间精度。
排序理由 该条目是一篇学术论文,详细介绍了一种新的 AI 模型训练方法。 [lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- Mix Forcing
- Mixture-of-Bidirectional-and-Autoregressive (MoBA)
- SANA-WM-Bench
- ScienceCast
- WBench
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →