contrastive learning
PulseAugur coverage of contrastive learning — every cluster mentioning contrastive learning across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
新的攻击框架破坏对比学习系统中的关系几何
研究人员开发了一种新颖的对抗性攻击框架,该框架针对对比学习系统,而对比学习系统是现代验证系统的基础。与以往以分类为中心的攻击不同,这种新方法侧重于破坏嵌入流形中的关系几何。该攻击通过将正例对推开,负例对拉近来系统性地扭曲相似性,导致成对相似性结构的崩溃和反转。该方法离线训练一个轻量级生成器,以便在单次前向传播中产生对抗性扰动,从而能够对基于相似性的验证系统进行实时攻击,并显著降低其性能。
-
AI模型以新颖的多智能体方法赢得双关语翻译竞赛 · 跟踪3个来源
研究人员开发了一种新颖的方法,将英语双关语翻译成法语,并在CLEF JOKER 2025 Task 2竞赛中获得第一名和第二名。该方法结合了大型语言模型和专业技术,包括对比学习、语音语义嵌入以及多智能体生成器-判别器框架。这种方法优先考虑保留文字游戏的幽默感和创造力,而不是字面翻译,在专家人类评估下,其表现优于BLEU和BERTScore等标准指标。
-
新的SLiM框架将骨架学习与紧凑型Token统一起来
研究人员开发了SLiM,一个新颖的骨架表示学习框架,它统一了掩码特征预测和对比学习。该方法旨在通过关注无解码器的、由教师指导的特征预测,而不是原始坐标重建,来克服当前方法的局限性。SLiM利用语义管掩码和骨架感知增强来确保深度骨架-时间推理和解剖一致性,与现有的密集Token MAE基线相比,实现了最先进的性能,并显著减少了推理计算。
-
新AI框架从细胞表型和转录组学数据中学习
两篇新研究论文提出了从生物数据中学习表征的先进方法。第一篇,PhenMol,专注于在从细胞表型中学习以进行药物发现的同时保留分子结构,显示出提高的预测准确性和减少的嵌入失真。第二篇论文介绍了一种用于单细胞转录组学数据的对比预训练框架,通过互补视角而非仅基因重构来学习细胞表征,该方法在细胞类型注释和基因调控网络推断方面表现出有竞争力的性能。
-
新研究探讨信息检索中科学公式的理解
研究人员探讨了在学术信息检索中理解科学公式的挑战,指出其兼具结构化语法和语义载体的双重性质。一项研究发现,虽然公式的语法和语义之间存在很强的潜在相关性,但其原生表示空间却显示出非常微弱的可观察对应关系,表明存在显著的错配。通过采用基于图的编码器处理语法,基于文本的编码器处理语义,并应用对比学习创建共享表示空间,研究人员证明了显式表示学习可以显著改善跨模态检索。
-
新的DAS-PMVC框架改进了部分多视图聚类
研究人员推出DAS-PMVC,一个旨在解决部分多视图聚类挑战的新型框架。该方法通过采用双重对齐和结构增强技术,解决了不同视图之间数据错位引起的问题。该框架首先通过锚点图结构对齐来对齐视图,然后利用多视图图卷积网络增强特征学习,最后使用对比学习和匈牙利算法来优化潜在特征对齐。实验结果表明,DAS-PMVC在聚类性能上超越了现有的最先进方法。
-
新的 COCO-OLAC 基准突出显示了遮挡对人工智能图像理解的影响
研究人员推出了 COCO-OLAC,这是一个旨在解决全景分割和图像理解任务中遮挡挑战的新基准数据集。该数据集源自现有的 COCO 数据集,包含三个不同感知遮挡级别的手动标注。使用 COCO-OLAC 进行的实验表明,遮挡会显著降低最先进的全景模型的性能,遮挡级别越高,结果越差。为了应对这一挑战,提出了一种新颖的对比学习方法,该方法利用遮挡标注来训练更鲁棒的模型,使其能够捕捉不同程度的遮挡,并在新基准上表现出改进的性能。
-
新基础模型通过准确的ADMET预测加速药物发现
研究人员开发了MEGA-CL,一种旨在预测小分子吸收、分布、代谢、排泄和毒性(ADMET)特性的新型基础模型。该图神经网络框架利用对比学习和外部注意力机制来有效建模分子结构和关系。MEGA-CL在多个基准数据集和下游ADMET任务中表现出卓越的性能,在外部验证中显示出强大的泛化能力,并实现了临床相关的预测准确性。
-
OmniVAE 引入具有跨模态对齐的联合音频-视频生成
研究人员开发了OmniVAE,这是一种新颖的变分自编码器,专为同步音频和视频的联合生成而设计。与之前分别训练音频和视频VAE的方法不同,OmniVAE学习两种模态之间的细粒度语义对齐。它采用片段级音频-视频对比目标来捕获时间-语义对应关系,并从预训练的语义编码器中提取特征以增强下游学习能力。实验表明,这些技术提高了生成音频-视频内容的质量和同步性,尤其是在文本到音频-视频生成任务中。
-
新AI框架通过缓解假阴性来改进3D医学影像分析
研究人员开发了多模态语义感知对比学习(MseaCL)框架,旨在提高AI模型在3D医学影像分析中的准确性。该方法通过整合放射学报告中的语义相似性来指导学习过程,解决了传统对比学习中的“假阴性”问题。当作为预训练阶段应用时,MseaCL已显示出显著的改进,包括儿童脑肿瘤分子分类AUC提高了22.6%,凸显了其在更稳健的临床应用中的潜力。
-
掩码图像建模在非独立同分布数据上优于对比学习
一项关于分布式AI训练的新研究表明,在处理非独立同分布(non-IID)数据时,掩码图像建模(MIM)的性能优于对比学习。这一发现表明,MIM在异构数据集上训练AI模型可能是一种更有效的方法,有望带来更鲁棒和泛化的模型。
-
对比序数学习框架增强序数回归任务
研究人员引入了对比序数学习(ConOrd),一个结合了对比学习和序数学习用于序数回归任务的新颖框架。该方法旨在通过在批次内所有样本对之间实现序数关系的细粒度建模来利用这两种方法的优势。ConOrd在涉及面部年龄估计、盲图像质量评估和盲视频质量评估的实验中展示了最先进的性能。
-
Transformer模型通过对比学习增强少样本手语识别能力
研究人员开发了一种基于Transformer的模型,该模型利用对比学习来改进少样本手语识别。这种方法学习身体关键点序列的鲁棒表示,从而能够对训练期间未遇到的手语进行分类。该模型在LSA64数据集上表现强劲,在仅有少量参考示例的情况下,对未见过类别的准确率达到了88.4%。
-
新理论表明掩码图像建模对非独立同分布数据更具鲁棒性
一项新的理论分析探讨了分布式自监督学习(D-SSL)框架在面对非独立同分布(non-IID)数据时的鲁棒性。研究表明,与对比学习(CL)相比,掩码图像建模(MIM)对数据异质性更具弹性。此外,研究表明去中心化自监督学习的鲁棒性随着网络连接的增加而提高,这意味着联邦学习与去中心化学习一样鲁棒。为了增强MIM,该论文引入了MAR损失,它包含了局部到全局的对齐正则化,实验结果验证了理论发现和MAR损失的有效性。
-
新数据集探索婴儿如何通过触觉学习视觉概念
研究人员开发了一种新方法来理解人类婴儿如何通过触觉学习视觉概念。他们创建了一个针对婴儿触觉事件的结构化编码系统,生成了一个包含264,000个片段的数据集。该数据集用于预训练模型,从而深入了解婴儿的触觉学习。
-
新的对比因子分析框架融合了因子分析和对比学习
研究人员引入了一个名为对比因子分析(CFA)的新颖框架,它融合了因子分析和对比学习的原理。该方法旨在通过利用因子分析在不确定性建模和鲁棒性方面的优势来增强无监督表征学习,而这些优势在深度学习中历来被忽视。该论文还提出了一种CFA的非负版本,以提高可解释性并学习解耦的表征。实验结果表明,所提出的方法在表达能力、鲁棒性、可解释性和准确的不确定性估计方面有所改进。
-
新SCENT算法改进了熵风险最小化的优化
研究人员开发了一种名为SCENT的新算法,用于组合熵风险最小化,这是一种涉及对数期望指数函数的公式化问题。现有方法在处理此类优化问题时存在不收敛和收敛速度慢等问题。SCENT采用随机近镜像下降更新,研究人员声称其相比标准SGD具有理论优势。该算法在极端分类、部分AUC最大化、对比学习和分布鲁棒优化等应用中已显示出实证有效性,优于现有基线。
-
汉语语音分析框架旨在检测认知障碍
研究人员开发了一种使用汉语语音检测认知障碍的新框架。该方法包括将语音录音分割成片段,将其转换为频谱图,并采用基于自动编码器的表示学习和对比目标。这种方法旨在增强判别性潜在表示并提高鲁棒性,尤其是在标记数据有限的情况下。在四个独立数据集上的实验显示了稳定且具有竞争力的性能,表明这是一种在资源受限环境中进行认知筛查的可扩展且实用的方法。
-
研究人员详细介绍用于 SemEval-2026 任务的叙事相似性模型
研究人员展示了他们针对 SemEval-2026 Task 4 的方法,重点关注叙事故事相似性和叙事表示学习。他们的解决方案采用对比学习和微调的句子 Transformer 来识别基于抽象主题、动作和结果的叙事相似性。该系统包含两个管道:一个使用单一视图和智能层冻结来防止过拟合,另一个采用多视图方法,分别使用专门的投影头和自监督对齐来建模主题、情节和结果。
-
选择性协同学习 (SSync) 增强视频对象中心学习
研究人员推出了一种名为选择性协同学习 (SSync) 的新方法,以增强视频对象中心学习。SSync 通过伪标签和传递性合并选择性地提取可靠线索,解决了现有方法的局限性,从而提高了对象分解的质量和鲁棒性。该方法避免了在无差别对齐策略中出现的错误传播,并提供了比以前的二次方方法更具可扩展性的线性复杂度解决方案。