研究人员开发了一种名为曲率感知零阶优化(CAZO)的新型零阶优化方法,用于内存高效的测试时自适应(TTA)。该方法旨在提高预训练模型在新数据集上的性能,而无需反向传播,使其适用于设备端应用。CAZO利用了在自适应过程中损失函数中持续存在的低秩Hessian结构这一观察结果,来构建协方差矩阵以实现更有效的梯度估计。实验表明,CAZO在准确性和内存效率方面优于现有的TTA方法。 AI
影响 这种新方法可以实现更高效的设备端AI模型自适应,降低内存开销和复杂性。
排序理由 该集群包含一篇详细介绍机器学习新优化方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- CORE Recommender
- Curvature-Aware Zeroth-Order Optimization for Memory-Efficient Test-Time Adaptation
- DagsHub
- Gotit.pub
- Hugging Face
- ScienceCast
- Test-Time Adaptation
- Zeroth-order optimization with orthogonal random directions
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →