3D Causal VAE

新的WSV框架通过合成视频生成改进零样本视频字幕生成

研究人员开发了一个名为WSV的新框架，用于零样本视频字幕生成，该框架解决了仅文本训练与基于视频的推理之间的跨模态差距。该方法包括使用文本到视频模型生成合成视频潜在表示，然后由一个抛光器进行细化以提高保真度。最后，一个提示器根据这些抛光后的表示对GPT-2进行条件化以生成字幕。该方法在MSVD、MSR-VTT和VATEX数据集上的B@4得分达到52，CIDEr得分达到95.7。