LSMDC

新数据集和模型推动文本到长视频检索能力发展

研究人员推出了MELON，这是一个专为多事件文本到长视频检索设计的新大规模数据集，解决了现有数据集主要关注具有单一事件的短片段的局限性。MELON标注了长视频中的多个事件间隔，使模型能够更好地理解复杂的多事件结构。同时，还提出了一个名为TAME的框架，通过将时间建模集成到基于CLIP的架构中来增强文本视频检索。TAME利用专家混合层和帧-时间标记来捕捉局部帧细节和长距离时间依赖性，在标准的检索基准上表现出改进的性能。