研究人员已经证明,联合嵌入预测架构 (JEPA) 中通常在训练后被丢弃的预测器组件,可以作为可迁移算子重新用于遮挡特征补全。通过将冻结的 JEPA 预测器通过简单的线性投影连接到 CLIP、DINOv3、DINOv2 和 MAE 等非 JEPA 主编码器上,在 ImageNet 和 Stanford Dogs 等任务上的性能得到了显著提升,尤其是在严重遮挡的情况下。这种方法可以在不重新训练原始模型的情况下实现增强的特征补全,突显了 JEPA 预测器在不同编码器架构上的可移植性。 AI
影响 展示了一种在不重新训练的情况下增强 AI 模型特征补全能力的新方法,有望提高在处理遮挡数据任务上的性能。
排序理由 研究论文,详细介绍了一种利用现有架构组件进行特征补全的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →