contrastive predictive coding
PulseAugur coverage of contrastive predictive coding — every cluster mentioning contrastive predictive coding across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新基准评估无监督语音模型的口音适应性
研究人员开发了一个名为 ABX- Accent 的新基准，用于评估无监督语音模型在适应不同口音方面的能力。该基准基于 AESRC 数据集，包含 10 种英语口音以及每种口音的小型无标签训练集。使用自适应域归一化微调预训练的对比预测编码模型（Contrastive Predictive Coding model）的基线模型，与未适应的模型相比，在跨说话人 ABX 分数上平均提高了 23.6%。
-
新框架统一了无线网络的CSI压缩和预测
研究人员开发了一个新颖的框架，该框架统一了无线网络的信道状态信息（CSI）压缩和预测。该方法将对比预测编码（CPC）直接集成到符合3GPP的CSI反馈架构中，解决了当前标准未能充分解决的信道老化问题。该框架提供了两种变体：CPC-before-Compression，在量化之前对未来的潜在表示进行建模；CPC-after-Compression，将此建模转移到基站以降低设备复杂度。评估表明，与现有方法相比，在重建准确性和计算效率方面有了显著提高。
-
ECG基础模型受益于对比学习和状态空间架构
研究人员对心电图（ECG）基础模型的预训练策略和扩展进行了系统性研究。他们评估了五种不同的自监督学习目标，发现对比预测编码（contrastive predictive coding）和JEPA产生了最具迁移性的表示。研究还表明，将预训练数据增加到1100万个样本可以持续提高大多数目标的性能。此外，结构化状态空间模型（structured state space models）在性能上优于Transformer和CNN，表明其归纳偏置…