LatentWave

LatentWave 使用JEPA进行无线基础模型训练

研究人员推出了一种新的无线基础模型LatentWave，该模型采用联合嵌入预测架构（JEPA）进行预训练。与以往关注重建低级信号细节的方法不同，LatentWave通过在潜在空间中预测掩码区域来学习更具可迁移性的表示。这种方法结合了每通道的patch嵌入和随机通道采样，使得模型能够有效地处理可变的天线数量和多样化的无线配置。在射频信号分类和5G定位等任务上的评估表明，与掩码建模基线相比，其开箱即用的性能得到了提升。