Mirrored Influence Hypothesis

新假说提出高效的大模型数据影响估计方法

研究人员提出了镜像影响假说（Mirrored Influence Hypothesis），该假说表明，理解训练数据对模型预测的影响可以通过反向计算来评估在测试数据上训练将如何改变训练样本的预测。这种新方法通过计算测试样本的梯度和训练点的前向传播，与现有方法相比，提供了显著的效率提升，尤其是在测试数据集远小于训练数据集的情况下。该方法已在扩散模型的数据归因、检测数据泄露和错误标记数据以及分析语言模型的记忆和行为等领域展示了其适用性。