研究人员开发了一种名为 Adam-Aware In-Run Data Shapley 的新方法,用于准确归因使用 Adam 优化器的机器学习模型中的数据贡献。现有方法依赖于随机梯度下降 (SGD) 的线性结构,但由于 Adam 复杂的动态特性而对其无效。所提出的技术实现了与真实边际贡献近乎完美的保真度,并保持了约 95% 的标准训练吞吐量。这种新方法在下游数据归因任务中的表现明显优于基于 SGD 的基线。 AI
影响 提高了使用 Adam 优化器的现代机器学习训练管道的数据归因准确性。
排序理由 该集群包含一篇详细介绍机器学习优化新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Adam-Aware In-Run Data Shapley
- Adam optimizer
- arXiv
- Linearized Ghost Approximation
- Meng Ding
- Shapley value
- stochastic gradient descent
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →