Test-Time Adaptation
PulseAugur coverage of Test-Time Adaptation — every cluster mentioning Test-Time Adaptation across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新框架在无需模型更新的情况下增强了视觉语言模型医学图像分割能力
研究人员推出了一种名为记忆支持协同适应(MSSA)的新框架,旨在利用视觉语言模型(VLMs)改进医学图像分割,而无需更新模型参数。这种无需训练的方法通过从可靠的图像-文本预测中构建在线记忆,解决了将VLMs应用于医学成像的挑战。MSSA利用这些预测作为语义先验,并将其与跨图像结构对齐相结合,以实现鲁棒的适应性,其性能优于现有的微调方法。
-
探索零样本 CT 视觉语言模型的测试时适应
研究人员调查了测试时适应(TTA)对于零样本 3D CT 视觉语言模型(VLMs)的有效性。他们的分析表明,TTA 的效用是有条件的,需要体积输入保持编码器深度结构,并且基础表示能够迁移到目标队列。他们引入了 CARVE(基数感知保留视图熵),一种专为此特定场景设计的新型 TTA 方法,该方法通过内存高效的多视图适应过程来估计标签基数并保留共现异常。
-
新的TTA方法使用ZOO和模型合并技术,适用于资源受限设备
研究人员开发了一种新的测试时域自适应(TTA)方法,以解决边缘设备的资源限制问题。通过将零阶优化(ZOO)与模型合并集成到跨设备协同TTA框架中,他们的方法绕过了计算密集型反向传播的需求。该方法专为混合了资源丰富和资源受限设备的系统设计,允许在资源受限设备上仅通过前向传播进行模型更新。该技术还包含一种预处理策略,用于修剪非影响性权重并减少模型间的冗余,从而增强ZOO与模型合并之间的协同作用。
-
新框架统一了用于测试时提示调优的自集成方法
研究人员推出了一种名为USE的统一自集成框架,旨在增强像CLIP这样的视觉语言模型在测试时的适应性。该框架将测试时提示调优解释为从自生成的伪标签中学习,确保优化和推理阶段之间的一致性。通过自适应地强调测试图像而非其增强视图,USE可以获得更可靠的伪标签,并在各种数据集上展现出优于现有方法的性能。此外,一种简化的自集成策略SE,可以作为一种轻量级的、无需优化的测试时适应技术。
-
TopoTTA框架整合拓扑数据分析以进行异常分割
研究人员开发了TopoTTA,一个将拓扑数据分析整合到测试时自适应以进行异常分割的新框架。该方法使用持久同调来强制执行几何和结构一致性,导出拓扑伪标签,在不重新训练骨干模型的情况下指导分类器。TopoTTA通过保持连通性并跨2D和3D模态进行泛化,提高了分割质量,在标准基准测试中平均F1得分提高了15%,尤其是在具有复杂几何变化的异常方面。
-
新方法增强AI模型适应性,提高其在对抗性攻击和数据漂移下的鲁棒性 · 追踪6个来源
研究人员开发了新的方法来提高机器学习模型在测试时适应(TTA)的鲁棒性,尤其是在对抗性攻击和不断变化的数据分布场景下。一种名为SAFER的方法,利用随机增强和可靠性引导池来增强弹性,而无需源数据。另一个框架DO-ALL采用数据集蒸馏来创建用于稳定长期适应的合成锚点,通过避免保留原始源数据来解决隐私问题。此外,还提出了一个基于状态空间模型的概率框架用于在线TTA,以表征参数学习和演化。最后,双分布估计(DDE)提供了一种无需训练的方法,…
-
新框架利用蒸馏的多模态大语言模型增强社交智能推理
研究人员开发了一个名为MODF-SIR的新框架,该框架利用轻量级的多模态大语言模型(MLLM)进行社交智能推理。该框架通过知识蒸馏来增强训练和推理,专注于多模态社交智能数据的精确本地化。它还结合了测试时自适应(TTA)和低秩自适应(LoRA)技术,以改进实例级推理并有效处理长尾事件。
-
新理论探讨测试时自适应的可学性
研究人员开发了一个新的理论框架,用于分析机器学习模型中测试时自适应(TTA)的可学性。该框架引入了 $(\epsilon,\delta)$-恢复复杂性和 $(\epsilon,\rho)$-TTA 可学性等概念,以量化模型在没有标记数据的情况下适应不断变化的数据分布的速度。该研究推导了恢复复杂性的界限,强调了适应性和信息之间的权衡,并为 TTA 提供了统一的可学性保证。
-
新研究推进机器学习中的差分隐私以适应和测试
研究人员正在开发新的方法来确保机器学习任务中的差分隐私,特别是在假设检验和测试时自适应方面。一篇论文介绍了流行的测试时自适应技术的差分隐私版本,表明它们可以在保护用户数据的同时保持准确性。另一项研究侧重于使用 e-值的差分隐私假设检验的最优率,提供了与理论界限相匹配并优于现有方法的算法。第三篇论文在高斯差分隐私下提出了近乎最优的简单假设和似然比假设的隐私检验,即使在数据量有限和隐私预算有限的情况下也表现出强大的性能。
-
新的HCL框架通过测试时自适应增强伪装感知
研究人员开发了一个名为分层一致性学习(HCL)的新框架,以提高目标检测中的伪装感知能力。该方法通过引入测试时自适应来动态重新校准表示,克服了传统静态训练的局限性。HCL利用分层表示重建和任务亲和力引导来增强对外观同质化和语义漂移的鲁棒性,同时原型一致性校准确保语义不变性。实验表明,HCL在各种基准测试中优于现有方法,在分布变化下表现出强大的泛化能力。
-
新的 PAC-贝叶斯框架量化测试时自适应中的不确定性
研究人员开发了一个 PAC-贝叶斯框架,用于量化测试时自适应 (TTA) 方法中的认知不确定性。该框架使用源分布和目标分布之间的最大均值差异 (MMD) 来推导泛化界。通过将 MMD-balls 解释为 credal sets,该方法将认知不确定性与偶然不确定性分开,提供了一种有原则的方法来决定何时自适应是有益的。