Alexios Filippakopoulos

新方法通过精炼数据融合改进多模态情感分析

研究人员开发了两种新的多模态情感分析方法，旨在改进文本、视觉和音频等不同数据类型的组合方式。第一种方法SeRIn将模态特定信号和跨模态交互分离到不同的通路中，以便在整合前独立精炼它们。第二种方法MRUF使用多粒度路由和不确定性感知融合，根据每个模态的可靠性动态调整其权重。SeRIn和MRUF在CH-SIMS、CMU-MOSEI和CMU-MOSI等基准数据集上均取得了最先进的结果，优于现有的融合技术。