Mo Zhou

梯度EM算法在过参数化高斯混合模型上实现了全局收敛

研究人员为梯度期望最大化（EM）算法应用于过参数化高斯混合模型（GMMs）时建立了全局收敛保证。这是EM或其梯度变体在超出两分量特定情况之外的首个此类结果。研究表明，在轻微过参数化的情况下，即学习模型使用 $n = \Omega(m\log m)$ 个分量来拟合一个 $m$ 分量真实GMM时，随机初始化的梯度EM可以在多项式时间和样本复杂度内收敛到正确解。该分析引入了用于GMM分析的新颖工具，以表征算法动力学和似然损失景观。