Invariance Radius

新的诊断工具评估 AI 世界模型对视觉扰动的弹性

研究人员开发了一种名为动作条件预测一致性（ACPC）的新诊断工具，用于评估联合嵌入预测架构（JEPAs）中的世界模型。ACPC 衡量了在相同动作序列下，当世界模型接收到视觉扰动输入时，其预测与接收到干净输入时的预测之间的差异。该指标被证明可以限制由视觉扰动引起的预测误差，并有助于评估不同状态在回滚后的可区分性。在各种视觉控制任务上的实验表明，ACPC 在预测预测和成本误差的变化方面非常有效，并且在不同类型的扰动下都具有诊断能力。