JEPA 模型被证明等同于隐马尔可夫模型

一篇新的研究论文提出，当完全按时间索引时，联合嵌入预测学习 (JEPA) 模型与隐马尔可夫模型 (HMMs) 具有相同的计算结构。该论文详细介绍了 JEPA 的组成部分，例如随机上下文编码器和概率预测器，如何对应于 HMMs 中发现的推理、传播和发射角色。为了巩固这种联系，研究人员引入了马尔可夫链 JEPA (MCJEPA)，它使用学习到的转移矩阵来确保与 Chapman-Kolmogorov 方程的一致性。实验支持将 JEPA 的预测学习解释为寻求一个紧凑的预测状态，这使其区别于传统的 HMM 序列学习。 AI

影响 为理解和潜在改进人工智能中的预测学习模型提供了一个新的理论框架。

排序理由 学术论文发表在 arXiv 上，详细介绍了两种人工智能建模方法之间的理论联系。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• arXiv
• Chapman--Kolmogorov
• hidden Markov model
• Hugging Face
• Joint-Embedding Predictive Learning
• Markov-Chain JEPA
• Predictive Information Bottleneck VJEPA
• Yongchao Huang

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →