研究人员开发了GLOBE(Gradient Local-Balanced Extraction,梯度局部平衡提取)框架,这是一种用于设备端深度神经网络训练中核心集选择的新颖框架。GLOBE通过捕获不断变化的优化动态并处理相关样本来解决现有方法的局限性,其方法是轨迹对齐梯度匹配。该框架将样本选择构建为一个全局优化的稀疏加权问题,利用多个训练检查点来构建梯度轨迹,并采用正则化技术来诱导稀疏性和稳定权重。实验表明,GLOBE在下游测试准确性方面优于现有方法,尤其是在低数据保留率下。 AI
影响 通过改进核心集选择方法,提高了设备端AI训练中的数据效率。
排序理由 该集群包含一篇详细介绍机器学习核心集选择新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →