Wireless Foundation Models
PulseAugur coverage of Wireless Foundation Models — every cluster mentioning Wireless Foundation Models across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
调查梳理无线基础模型的最新进展
一篇新近发表在arXiv上的调查论文详细介绍了无线基础模型（WFMs）的当前状态和未来挑战。这些模型旨在从大规模无线数据中学习可重用的表征，以用于各种下游任务。该论文系统地分析了WFM的设计组成部分，将文献分为五个物理层任务家族，并考察了预训练、适应和评估方法。文章指出，尽管WFMs在可重用的无线表征方面显示出潜力，但数据集、模态和评估协议的不一致性使得确定哪些设计选择能够驱动迁移和泛化变得困难。作者最后指出了改进数据可用性、评估严谨…
-
基础模型有望为AI原生6G无线网络提供动力 · 跟踪2个来源
两篇最新论文探讨了基础模型与未来6G无线网络的集成，提出它们是AI原生系统的核心组成部分。这些模型与传统的深度学习方法不同，旨在从海量无线数据中学习通用表示，以高效适应通信、传感和网络优化等多样化任务。研究强调了数据可用性、泛化能力和边缘部署方面的挑战，同时也概述了可信赖和可扩展的无线智能的未来方向。
-
LatentWave 使用JEPA进行无线基础模型训练
研究人员推出了一种新的无线基础模型LatentWave，该模型采用联合嵌入预测架构（JEPA）进行预训练。与以往关注重建低级信号细节的方法不同，LatentWave通过在潜在空间中预测掩码区域来学习更具可迁移性的表示。这种方法结合了每通道的patch嵌入和随机通道采样，使得模型能够有效地处理可变的天线数量和多样化的无线配置。在射频信号分类和5G定位等任务上的评估表明，与掩码建模基线相比，其开箱即用的性能得到了提升。
-
脉冲神经网络增强无线基础模型
研究人员开发了SpikeWFM，这是一种将脉冲神经网络（SNN）与基于Transformer的人工神经网络（ANN）相结合的新型混合模型，用于无线基础模型。该方法旨在借鉴人脑的处理能力，提高这些模型的鲁棒性和能源效率。实验表明，与传统的基于ANN的无线基础模型相比，SpikeWFM在预训练收敛和信道预测准确性方面表现更好。
-
Adaptive 3D-RoPE 通过物理对齐的位置编码增强无线基础模型
研究人员开发了 Adaptive 3D-RoPE，一种新颖的位置编码方法，旨在提高无线基础模型的性能。该新方法通过引入一个可学习的、轴解耦的 3D 频率库和一个条件化信道的控制器，与无线信道的物理特性保持一致。实验表明，在天线尺度外推方面，归一化均方误差最多可降低 10.7 dB，在尺度外推和零样本泛化方面取得了显著的改进。