K Fac
PulseAugur coverage of K Fac — every cluster mentioning K Fac across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新理论将深度学习的平坦性植根于黎曼几何
研究人员开发了一个新的理论框架，通过将平坦性的概念植根于黎曼几何来理解深度学习模型的泛化能力。该方法利用 Fisher 信息矩阵 (FIM) 来定义一个重参数化不变的锐度度量，解决了传统欧几里得度量的局限性。在 MNIST 和 CIFAR-10 数据集上的实验表明，这种新的黎曼锐度度量能够准确地跟踪泛化性能，并与关于 SGD 对更平坦极值偏置的理论预测一致。
-
新框架统一了奇异学习理论和信息几何
研究人员开发了一个名为几何奇异学习的新框架，它连接了奇异学习理论和信息几何。这种方法引入了“死方向”的概念来统一参数空间分析，而这些分析通常是分开处理的。该方法允许从单个模型检查点恢复关键的几何属性，从而为深度网络训练动态提供了新的见解。
-
Layerwise LQR 框架使用几何感知控制优化深度网络
研究人员开发了 Layerwise LQR (LLQR)，一个用于深度学习模型的新优化框架。LLQR 将二阶优化方法（如牛顿法）重新表述为线性二次调节器问题。这种方法可以学习结构化的逆预处理器，在不计算完整曲率矩阵的情况下捕获全局层级动态。在 ResNets 和 Transformers 上的实验表明，LLQR 可以在计算开销极小的情况下提高优化速度和最终模型性能。
-
CrispEdit 算法通过保留通用能力来增强 LLM 编辑
研究人员开发了 CrispEdit，一种用于编辑大型语言模型 (LLM) 的新算法，该算法侧重于在修改特定行为的同时保留通用能力。该方法将编辑构建为一个约束优化问题，使用低曲率投影来确保更改不会破坏模型的广泛功能。通过采用 Kronecker-factored approximate curvature (K-FAC) 和无矩阵投影仪等技术，CrispEdit 实现了高效、可扩展的编辑，并在标准基准测试中以最小的能力下降显著提高了编辑成功率。