Action-Index

新的视频世界模型使用自然语言进行多实体控制

研究人员推出了一种新颖的交互式视频世界模型“Incantation”，它使用自然语言作为其主要的动作接口。这种方法可以对视频中的多个实体进行细粒度控制，并促进跨实体泛化，克服了传统接口的局限性。该模型采用带有帧局部文本交叉注意力的预训练视频骨干，并使用蒸馏技术来实现实时性能。与现有基线相比，Incantation 在跨实体迁移和处理词汇外提示方面表现出优越的性能，并已应用于不同的游戏环境中。