PulseAugur
实时 12:07:19

新理论解释了基于JEPA的世界模型的泛化能力

研究人员为联合嵌入预测架构(JEPA)开发了一种新颖的泛化理论,JEPA是一种在潜在空间中运行的世界建模范式。该理论将JEPA预训练表述为一个条件谱图学习问题,证明其等价于一个动作条件共现矩阵的低秩分解。这项工作建立了JEPA预训练误差与下游规划遗憾之间的联系,提供了有限样本泛化界,并揭示了与潜在维度相关的近似误差和样本误差之间的权衡。 AI

影响 为潜在预测模型提供了理论基础,可能指导未来人工智能理解和预测世界动态能力的进步。

排序理由 在arXiv上发表的学术论文,详细介绍了基于JEPA的世界模型的新理论框架。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新理论解释了基于JEPA的世界模型的泛化能力

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Jingyi Cui, Qi Zhang, Hongwei Wen, Yisen Wang ·

    A Generalization Theory for JEPA-Based World Models

    arXiv:2606.27014v1 Announce Type: new Abstract: Joint Embedding Predictive Architectures (JEPAs) have recently emerged as a promising paradigm for world modeling by learning predictive dynamics in a latent space rather than generating future observations at the input level. Despi…

  2. arXiv cs.LG TIER_1 English(EN) · Yisen Wang ·

    A Generalization Theory for JEPA-Based World Models

    Joint Embedding Predictive Architectures (JEPAs) have recently emerged as a promising paradigm for world modeling by learning predictive dynamics in a latent space rather than generating future observations at the input level. Despite their empirical success, the theoretical unde…