实体
MSE loss
MSE loss
PulseAugur coverage of MSE loss — every cluster mentioning MSE loss across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
研究发现 MSE 损失会阻碍神经网络中的叠加
研究人员已经证明，均方误差（MSE）损失在训练神经网络以在叠加中编码特征方面是无效的，这种技术是指表示的特征多于神经元的数量。这一发现得到了数学分析和实验证据的支持，表明 MSE 损失不会激励网络利用叠加。作者建议在玩具模型或其他应用中以实现叠加为目标时，使用对数损失等替代损失函数。
-
神经网络的Hessian谱与数据分布相关
一篇新发表在arXiv上的研究论文探讨了Hessian矩阵的谱与深度学习模型中使用的数据之间的关系。该研究推导了线性网络的特征值，揭示了对于具有MSE损失的分类任务，解的尖锐度直接与最大类别中的样本比例相关。这些发现得到了经验验证，并且即使在引入非线性后也显示出鲁棒性，将其适用性扩展到更实际的学习场景。
-
新方法以有限数据增强无监督跨模态检索 · 跟踪4个来源
研究人员正在开发新的无监督跨模态检索方法，旨在提高效率并减少对大型手动标注数据集的依赖。论文提出了属性提示核哈希（APKH）和全局邻域对齐哈希（GNAH）等技术，这些技术利用视觉语言基础模型和有限的配对数据来构建紧凑、对齐的汉明空间。另一种方法UniCA引入了双向交叉注意力和正相似性损失，以实现更鲁棒的多模态检索，并在WebQA+等基准测试中取得了改进。