Orthogonal JEPA

新的Orthogonal JEPA框架增强了潜在世界模型

研究人员推出了一种新颖的潜在世界建模框架Orthogonal JEPA，旨在提高预测、规划和推理能力。该方法利用正交预测分解，将目标状态分解为多个组件，每个组件都有专门的预测分支。此方法旨在防止对主导信号分配冗余容量，并为不太主导的结构提供更清晰的梯度。在视觉、转录组学、健康记录、控制和分子动力学等多个领域的实验证明了其在表示质量、预测和长时稳定性方面的有效性。