V-information

新基准评估多模态预测的信息论度量

研究人员开发了一个基准来评估信息论度量，用于评估文本注释在多模态时间序列预测中的预测价值。通过控制合成数据生成过程，他们为信息内容建立了地面实况，以严格测试六种互信息估计器，包括MINE、InfoNCE和PID。研究发现，所有测试的估计器都能正确识别语义相关的注释为最有信息量，并且可以在无需模型训练的情况下审计文本语料库的质量。这些发现通过真实世界数据集得到了进一步验证，从而为在注释审计和融合选择中实施这些度量提供了实用指南。