Randall Balestriero

新定理证明 AI 模型学习相同的世界表征

研究人员正式证明了柏拉图式表征假设 (PRH)，该假设表明，在不同数据模态上训练的 AI 模型在规模扩大时会收敛到相同的世界表征。该研究引入了联合嵌入预测架构 (JEPAs) 作为实现这一目标的方法，证明了在各种模态上单独训练的 JEPAs 可以学习到相同的表征（在旋转变换下），前提是它们的正样本对是同一场景的观察结果。研究还强调，在语言模型中常用的下一个词预测，是获得这些柏拉图式表征的低效途径，需要显著更多的数据才能与视觉编码器实现可比的对齐。