Data Shapley
PulseAugur coverage of Data Shapley — every cluster mentioning Data Shapley across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新算法为加权KNN回归提供精确的数据Shapley值
研究人员开发了用于计算加权k近邻（KNN）回归和软标签预测中数据Shapley值的新算法。此前，在这些场景下进行精确计算在计算上是不可行的，依赖于指数级复杂度的暴力破解方法。新方法包括一种伪多项式时间精确算法和一种针对连续权重的认证全多项式时间近似方案（FPTAS），提供了确定性结果和经过认证的误差界限。这些进展对于准确评估复杂机器学习模型中训练数据点的价值至关重要，并已作为开源库发布。
-
新框架通过序列决策统一数据选择
研究人员开发了一个新框架，将数据选择视为一个序列决策问题，利用动态规划来寻找最优选择序列。该方法统一了现有的 Data Shapley 等方法，揭示它们是序列问题的近似，并分析了选择最优性如何随着效用曲率的退化而降低。提出的基于二分图的代理模型提供了可扩展的贪婪选择，并具有可证明的保证，在经典机器学习基准和大规模 LLM 微调数据的实验中显示出显著的改进。
-
NASH 框架增强了机器学习的数据选择
研究人员推出了一种新的机器学习数据选择框架 NASH，旨在提高 Data Shapley 等方法的有效性。NASH 将效用函数分解为更简单、对 Shapley 有信息的组成部分，并进行非线性聚合以选择高质量的数据子集。该框架旨在在运行时成本仅略微增加的情况下提高性能。
-
新方法为LLM和VLM提供高效数据估值
两篇新研究论文提出了用于大型语言模型（LLM）数据估值的新颖方法。第一篇论文“For-Value”引入了一个高效的仅前向传播框架，该框架使用单次前向传播来估算数据价值，避免了计算成本高昂的反向传播。第二篇论文“Utility-Aware Data Pricing”提出了一个动态的、基于效用的定价模型，该模型在token级别量化数据的贡献，并结合了经验性训练增益和加密可验证性，以实现透明的数据市场。