PulseAugur
实时 10:31:33
English(EN) Curvature-Aware Zeroth-Order Optimization for Memory-Efficient Test-Time Adaptation

新的CAZO方法增强了内存高效的测试时自适应

研究人员开发了一种名为曲率感知零阶优化(CAZO)的新型零阶优化方法,用于内存高效的测试时自适应(TTA)。该方法旨在提高预训练模型在新数据集上的性能,而无需反向传播,使其适用于设备端应用。CAZO利用了在自适应过程中损失函数中持续存在的低秩Hessian结构这一观察结果,来构建协方差矩阵以实现更有效的梯度估计。实验表明,CAZO在准确性和内存效率方面优于现有的TTA方法。 AI

影响 这种新方法可以实现更高效的设备端AI模型自适应,降低内存开销和复杂性。

排序理由 该集群包含一篇详细介绍机器学习新优化方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的CAZO方法增强了内存高效的测试时自适应

报道来源 [1]

  1. arXiv cs.CV TIER_1 English(EN) · Junming Zhang, Shuyu Yin, Peilin Liu, Rendong Ying, Fei Wen ·

    面向内存高效测试时自适应的曲率感知零阶优化

    arXiv:2608.12279v1 Announce Type: new Abstract: Test-time adaptation (TTA) aims to enhance the cross-domain performance of pre-trained models by adapting to unlabeled test data. While most existing TTA methods rely on backpropagation (BP) for finetuning, BP-free methods such as z…