实体
kfac
kfac
PulseAugur coverage of kfac — every cluster mentioning kfac across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究探索无数据预训练以实现隐私学习
研究人员开发了一种用于差分隐私学习中无数据预训练的新方法，重点关注如何使用合成探针重建Kronecker因子。题为“Spectrum Is Not Enough: A Random-Matrix Account of Data-Free Preconditioning for Differentially Private Learning”的研究表明，某些因子可以在没有私有数据的情况下重建，而另一些因子，特别是数据诱导的峰值，则不能。…
-
新的 DoPr 优化提升 AI 测试时性能
研究人员推出了一种名为双预处理 (DoPr) 的新优化技术，旨在提高深度学习模型在测试时反馈 (TTF) 场景下的性能。该方法结合了梯度和激活预处理，以减轻模型在推出自身预测时发生的误差累积。DoPr 在各种 TTF 设置下都显示出增强下游模型性能的潜力，即使验证损失没有持续改善，这也对模型评估提出了新的问题。