BenSMOT

CaptionFormer模型统一视频对象跟踪和字幕生成

研究人员开发了CaptionFormer，这是一种新颖的端到端模型，旨在统一视频中的对象检测、分割、跟踪和字幕生成任务。为了解决密集视频对象字幕生成中带注释数据有限的挑战，该团队使用视觉语言模型生成了合成字幕，并用这些新注释扩展了现有数据集。CaptionFormer在三个既定基准VidSTG、VLN和BenSMOT上展示了最先进的性能。