Zehong Yan

New AI methods combat evidence pollution in misinformation detection

研究人员开发了新的方法来对抗人工智能生成的虚假信息，特别是解决了“证据污染”的挑战，即人工智能生成的内容被用来错误地解释图像的背景。现有的检测脱离上下文的多模态虚假信息系统通常假设证据是干净的，但这项研究强调，人工智能污染的证据会使性能下降9个百分点以上。为了应对这种情况，提出的策略包括跨模态证据重排序和跨模态声明-证据推理，这些策略在增强当前检测系统的鲁棒性方面显示出有效性。