Meng Ding

新方法准确归因 Adam 优化器中的数据贡献

研究人员开发了一种名为 Adam-Aware In-Run Data Shapley 的新方法，用于准确归因使用 Adam 优化器的机器学习模型中的数据贡献。现有方法依赖于随机梯度下降 (SGD) 的线性结构，但由于 Adam 复杂的动态特性而对其无效。所提出的技术实现了与真实边际贡献近乎完美的保真度，并保持了约 95% 的标准训练吞吐量。这种新方法在下游数据归因任务中的表现明显优于基于 SGD 的基线。