Gram matrices of reproducing kernel Hilbert spaces over graphs IV. (Quadratic inequalities for graph Laplacians)
PulseAugur coverage of Gram matrices of reproducing kernel Hilbert spaces over graphs IV. (Quadratic inequalities for graph Laplacians) — every cluster mentioning Gram matrices of reproducing kernel Hilbert spaces over graphs IV. (Quadratic inequalities for graph Laplacians) across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
研究质疑逐层量化误差补偿的局限性
一篇新的研究论文探讨了神经网络中逐层训练后量化方法的有效性。该研究调查了在何种条件下，补偿继承的量化误差能够提高而非降低网络输出精度。对于线性网络，如果舍入误差的条件均值为零且二阶矩映射确定，补偿可能是有益的，但这种保证在遇到ReLU激活或有界码本时可能会失效。该论文还反驳了先前发布的关于逐层量化的普遍保证。
-
自然选择规则解决了联邦回归的歧义性
一篇新研究论文分析了多变量联邦平均的复杂性，特别是在客户端可以选择多个最优“头部”时。该研究提出了一个自然选择规则，即客户端返回最接近广播头部的头部，这可以通过具有消失近端惩罚的全局最小化来实现。研究表明，在某些条件下，共享的Gram矩阵收敛于客户端Gram矩阵的Bures-Wasserstein重心，并且校正机制可以恢复中心化的最优Gram矩阵。
-
为 ReLU NTK Gram 矩阵建立了新的界限
研究人员为 ReLU 神经网络切线核 (NTK) Gram 矩阵的最小特征值建立了严格的最坏情况界限。该研究关注 d 维空间中的单位向量，并在标准高斯方向上对成对门控内积进行平均。研究结果为最小特征值提供了 $\Omega(\Delta_\pm/\sqrt{\log n})$ 的通用、无量纲的下界，其中 $\Delta_\pm$ 表示向量的投影分离度。该界限被证明是严格的，并为最坏情况构建了匹配的上界。