Chayanon Kitkana

新研究表明，持续的梯度对齐会导致人工智能模型产生潜意识学习

一篇新研究论文探讨了机器学习模型中“潜意识学习”的现象，即学生模型即使在非类别数据上进行训练，也能无意中从教师模型中习得特征。该研究使用MNIST数据集，证明了先前被认为是单步效应的梯度对齐，在多步训练中持续存在，并对这种无意特征习得起到了因果作用。此外，论文表明，提出的缓解技术“liminal training”在阻止这种学习方面无效。