Performative Prediction
PulseAugur coverage of Performative Prediction — every cluster mentioning Performative Prediction across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新框架通过选择性标签解决表现性预测问题
本文介绍了一个用于“选择性标签下的表现性预测”的正式框架，该框架解决了机器学习模型影响群体行为且标签仅对部分人群可见的场景。研究表明，当标签具有选择性时，标准的再训练方法可能无法收敛到稳定解。为应对此，作者提出了一种使用标签概率置信区间的最坏情况目标函数，该函数与重复风险最小化相结合，可确保模型接近真实的稳定点。在具有公平性正则化的贷款应用中的实验表明，这种鲁棒优化方法在性能上可与使用完整标签访问的方法相媲美。
-
新优化方法应对表现性预测挑战
研究人员开发了一种新的基于梯度的方法，旨在处理表现性预测问题，即模型的部署会影响未来的数据分布。这种新方法放宽了对数据分布和损失函数的先前假设，使其具有更广泛的适用性。该方法使用有限差分来估计分布变化，从而实现更高维度的优化，并支持更多种类的损失函数和数据类型。还引入了一个实际变体以减少样本需求，数值实验表明与现有方法相比，收敛速度和一致性有所提高。
-
新原理解释AI模型在数据影响下仍能收敛
一篇新论文引入了“稳定信号原理”，以解释机器学习模型在重新训练过程中如何收敛，即使它们对数据的影响很大。该原理认为，模型的收敛是由预测目标的少量、与模型无关的成分引导的，例如物品的内在质量。研究表明，通过适当的正则化，重复的风险最小化可以几何收敛到这个稳定信号，从而为语言模型在生成数据上的表现力和训练动力学提供了新的见解。
-
新框架模拟机器学习分布偏移的两种来源
研究人员引入了一个名为“部分执行预测”的新框架来解决机器学习中的分布偏移问题。该框架同时考虑了模型部署引起的内部变化和外部不可控的环境漂移。该研究将执行稳定性和最优性的现有概念扩展到这种在线设置，并分析了诸如重复再训练等策略以适应这些不断变化的环境。