VGG-11
PulseAugur coverage of VGG-11 — every cluster mentioning VGG-11 across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新方法推动个性化联邦学习和联邦遗忘
研究人员开发了几种新方法来增强个性化联邦学习(PFL),这是一种允许AI模型从分布式数据中学习同时保持客户端特定适应性的技术。例如,CLoVE使用客户端损失向量嵌入来识别和分离客户端集群,优化特定于集群的模型。pFedUL通过区分共享层和个性化模型层的策略来解决PFL中的联邦遗忘问题,以遵守GDPR等隐私法规。此外,DC-CFL通过分析数据协作提供了一种单轮集群联邦学习方法,而FedSPC则引入了一种共享参数校正方法来提高PFL模型的一致性。
-
新的 $\ell_p$-范数方案增强深度学习优化
研究人员推出了一种新的深度神经网络优化方案,该方案利用动态 $\ell_p$-范数,超越了固定 $\ell_2$ 和 $\ell_\infty$ 范数的限制。这种新颖的方法,称为 LPSGD 和 LPSGDM,旨在通过在训练过程中调整范数参数 $p$ 来提高收敛性和泛化能力。该方法以较大的 $p$ 开始以管理高曲率方向,然后逐渐减小 $p$ 至 2 以获得更稳定的更新,理论上可为非凸问题实现 $O(T^{-1/2})$ 的收敛速率。
-
新方法估算神经网络训练曲率
研究人员开发了一种新颖的随机估计器,用于计算神经网络 Hessian 矩阵对角块的迹。该方法结合了 Hutchinson 估计器和单次 Hessian-向量乘积,可以在单次反向传播中实现无偏的逐层迹估计。该技术对于监控神经网络训练特别有用,因为它可以通过分析经验风险的曲率来区分健康和病态的训练模式,而这对于大型网络来说是无法直接获得的。该估计器已在 CIFAR 数据集上训练的 ResNet 和 VGG 等模型中,有效地检测出了标签记忆现象。
-
Intel NCS2 在电磁注入下显示出显著的故障漏洞
研究人员表征了 Intel Neural Compute Stick 2 (NCS2) 在遭受电磁故障注入时的故障响应。他们的实验揭示了四种不同的结果类别,包括静默数据损坏和准确率的持续下降,这些在特定热点下的相当大比例的试验中都可能发生。值得注意的是,这些故障在模型重新加载之前可能会持续存在,甚至可以在空闲设备上触发,这表明标准的完整性检查对于安全关键的边缘应用来说是不够的。