Domain Generalization and Adaptation using Low Rank Exemplar SVMs.
PulseAugur coverage of Domain Generalization and Adaptation using Low Rank Exemplar SVMs. — every cluster mentioning Domain Generalization and Adaptation using Low Rank Exemplar SVMs. across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的LADDER方法增强了机器学习中的域泛化能力
研究人员推出了一种新颖的域泛化方法,称为LADDER(Latent Adaptive Domain Disentanglement and Environment Reweighting)。与侧重于不变性的方法不同,LADDER利用特定域的风格来指导预测,尤其是在因果因素与结果之间的关系在不同域之间发生变化时。该技术学习固定的因果和风格表示,然后在推理时使用未标记的目标域数据来重新加权源特定分类器,从而在无需目标标签或模型更新的情况下…
-
新的PP-CPCANet框架通过稳定训练增强域泛化能力
研究人员推出了一种名为投影追求CPCANet (PP-CPCANet) 的新颖框架,旨在提高机器学习中的域泛化能力。该新方法解决了现有技术(如CPCANet)的局限性,这些技术在小批量训练过程中难以进行秩亏协方差估计。PP-CPCANet采用一种无协方差的方法,利用Cayley变换和专门的PP离散目标在Stiefel流形上优化全局正交基。在四个域泛化基准上的实验表明,PP-CPCANet通过稳定训练实现了最先进的性能。
-
新方法使用语言嵌入实现鲁棒的视觉识别
研究人员开发了一种新的计算机视觉域泛化方法,该方法利用视觉-语言模型的语言嵌入空间。该方法将语言嵌入空间视为一个信息瓶颈,旨在保留核心语义信息,同时抑制可能阻碍鲁棒泛化的域特定变化。在各种骨干网络上的实验表明,该方法达到了最先进的性能,这表明域泛化研究的重点正从改进视觉表示转向设计强制不变性的监督。
-
新理论探索用于上下文学习的线性 Transformer
研究人员调查了用于上下文学习的线性 Transformer 的理论基础,解决了传统 softmax Transformer 的计算限制。该研究提出线性 Transformer 从上下文分布学习到响应函数的映射,并通过领域泛化视角分析其近似和泛化能力。基于此理论框架,该论文引入了新颖的激活和损失设计方法,以线性化预训练的 softmax 大型语言模型。
-
新方法通过子集共享不变性学习域泛化
研究人员提出了一种新的域泛化方法,称为子集共享不变性,它解决了当前方法在所有源域中强制全局不变性的局限性。这种新技术利用混合专家架构来学习在特定域子集内稳定的预测结构,而不是普遍性的。在DomainBed基准上的实验表明,其在域外泛化和鲁棒性方面有所提高,表明通过部分共享结构来建模不变性是一个发展方向。
-
新研究应对人类活动识别中的领域泛化挑战
一篇新研究论文探讨了由于分布偏移导致的人类活动识别(HAR)领域泛化挑战。该研究系统地评估了四种类型的偏移——设备类型、传感器放置、采样率和用户行为——发现多样性偏移占主导地位。该论文提出了一个HAR分布偏移基准,并评估了28种领域泛化方法,揭示了当前算法在实现模型泛化能力方面的局限性。
-
新研究探讨领域泛化方法,包括简单基线和新型优化器
研究人员正在探索机器学习领域泛化(DG)和开放域泛化(ODG)的新方法。一项研究表明,像CORAL和MMD这样的简单DG方法在ODG方面可以与更复杂的方法相媲美,并提出了在保持性能的同时降低计算成本的扩展。另一篇论文引入了一个用于DG的反因果设置,通过惩罚模型对协变量变化的敏感性来利用未标记数据。此外,还提出了一种名为GENIE的新优化器,它使用单步泛化率来平衡参数更新并促进领域不变特征的学习,性能优于现有方法。
-
新基准 MMDG-Bench 推动多模态域泛化
研究人员推出了 MMDG-Bench,这是一个旨在推动多模态域泛化的新基准。该基准解决了多模态学习和域泛化领域缺乏标准化评估的问题,尤其是在动作识别之外的领域。MMDG-Bench 包含两个框架 D2M 和 M2D,并为视频-音频-流动作识别和 RGB-深度-IR 人脸防伪等任务提供了统一的实验协议。分析表明,集成域泛化技术可持续提高泛化能力,而 D2M 和 M2D 之间的选择取决于模态间的稳定性。