Jensen gap

新的正则化技术适应数据几何

研究人员引入了各向异性膨胀作为一种新颖的方法，用于在逆问题中构建数据自适应正则化器。该技术涉及一种保持方向的映射，该映射沿着欧几里得射线重新缩放数据点，从而能够精确控制正则化器的几何形状。该研究表征了所得的轨道结构，并推导了一个显式轮廓，用于将固定的基本正则化器最优地适应数据，通过可证明为正的Jensen间隙证明了其优于各向同性重缩放的改进。研究还建立了有限样本泛化界限，并在学习各向异性轮廓时展示了在MNIST去噪任务上的实际性能提升。