Warmuth

新研究量化了高维在线线性回归中的遗憾界限

本文深入探讨了在线线性回归的复杂性，特别是在高维环境中，其中只有一部分特征真正具有预测性。研究人员探索了“特征预热”技术，通过估计特征权重和重新拟合模型来提高效率。然而，这项工作揭示了现有方法的一个基本限制，表明干扰插值会导致这些规则低估关键预测坐标。本文为常见的特征预热规则提供了理论遗憾下界，并为特定的单变量情况提供了匹配的上界，为多变量前沿的未来研究提供了方向。