Neural & Evolutionary

新研究解决了 AI 模型中的多结果学习不稳定性问题

一篇新的研究论文提出了一种面向结果的注意力矩阵，以解决预测多个结果的机器学习模型中的不稳定性问题。当前使用全局共享注意力向量的方法可能变得不稳定，并阻碍有效的学习和泛化。提出的解决方案将全局共享调优转换为面向结果的索引表示，该表示在合成实验中显示出改进的收敛性和有意义的表示学习。这种方法为多结果学习场景中的基于梯度的注意力过程提供了一个通用的解决方案。