实体
T-JEPA
T-JEPA
PulseAugur coverage of T-JEPA — every cluster mentioning T-JEPA across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Var-JEPA表述连接预测式与生成式自监督学习
研究人员引入了Var-JEPA，一种联合嵌入预测架构（Joint-Embedding Predictive Architecture）的新颖表述，它连接了预测式与生成式自监督学习。与专注于表示空间预测的传统JEPA不同，Var-JEPA通过优化单一证据下界（ELBO）明确地整合了潜在的生成结构。这种方法允许原则性的不确定性量化，并消除了对临时性反坍塌正则化器的需求。当作为Var-T-JEPA应用于表格数据时，该框架展示了强大的表示学习…
-
JEPA模型在处理语言的条件结构时面临挑战
一篇新论文探讨了将联合嵌入预测架构（JEPA）应用于语言处理所面临的挑战，将其在图像和音频领域的有效性与在文本领域的局限性进行了对比。研究强调，确定性的JEPA风格潜在预测在处理语言的条件结构时存在困难，因为语言可以有多种有效的补全方式，这与图像更具空间连续性的性质不同。I-JEPA和T-JEPA模型的实验表明，存在互信息饱和、训练-验证不稳定性以及下游迁移能力差等问题，这表明文本的JEPA目标必须能够容纳多种合理的补全，而不是将它们…