Hermite tensors

新算法在多项式时间内学习ReLU组合

研究人员开发了一种新算法，能够在多项式时间内PAC学习ReLU激活的正线性组合。该算法需要多项式数量的样本，并且相对于维度和激活数量，其运行时间也是多项式的。该方法利用了一种新颖的提升程序，结合了隐式张量计算和Hermite张量，以放大权重向量之间的分离度，从而能够以恒定的误差恢复它们。一个关键组成部分是一种修剪方法，该方法仅保留近似目标精度的相关向量。