Zijian Fu

新型SHRIKE模型利用场景图推进视听问答

研究人员推出SHRIKE，一个新颖的视听问答系统，该系统利用多模态场景图和基于Kolmogorov-Arnold网络（KAN）的专家混合（MoE）。这种方法显式地对视听场景中的对象及其关系进行建模，解决了现有方法在处理结构化视频信息和细粒度多模态特征建模方面的局限性。SHRIKE在MUSIC-AVQA和MUSIC-AVQA v2基准测试中取得了最先进的性能，展示了改进的时间推理和跨模态交互能力。