实体
Kernel logistic regression using truncated Newton method
Kernel logistic regression using truncated Newton method
PulseAugur coverage of Kernel logistic regression using truncated Newton method — every cluster mentioning Kernel logistic regression using truncated Newton method across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新研究探索联想记忆体“稳定边缘”的几何优化
研究人员探索了高容量核逻辑回归（KLR）联想记忆体的几何特性，识别出一种被称为“优化之脊”的关键超参数区域。该区域以主曲率被放大的几何奇点为特征，紧邻秩-1谱坍塌。研究表明，受“稳定边缘”现象影响的梯度下降优化将网络参数推向这个高度弯曲的边界，从而实现最优记忆表征的形成。
-
论文对比了在KLR训练的Hopfield网络上梯度下降与自然梯度下降
一篇新论文分析了高容量联想记忆中学习动力学的几何，特别是核逻辑回归（KLR）训练的Hopfield网络。它在“优化脊”上比较了梯度下降（GD）和自然梯度下降（NGD），揭示了GD由于极端曲率而沿着不稳定的振荡路径。然而，NGD纠正了这种几何形状，沿着测地线路径收敛更快并产生更好的泛化。
-
核 Hopfield 网络显示高存储容量，已分析稳定性限制
研究人员分析了使用核逻辑回归 (KLR) 训练的核 Hopfield 网络的几何特性和存储容量限制。他们的实验使用了随机序列和 CIFAR-10 图像嵌入，表明这些网络每个单元可以存储大约 16 个随机序列，并在接近每个单元 20 个序列的负载下保持结构化数据的稳定检索。研究发现，吸引子被清晰的边界分隔，最终的存储限制由对抗噪声的动力学稳定性决定，而不是特征空间中的几何可分性。