研究人员引入了通用编码计算(GCC)框架,该框架将编码计算原理应用于深度神经网络等机器学习工作负载。与以往专注于结构化计算精确恢复的方法不同,GCC采用端到端的均方误差损失来处理深度学习中常见的近似恢复需求。该框架在理论上保证了在掉队者条件下的性能,在最坏情况下显示出 O(S^3N^-3) 的损失衰减率,在概率设置下显示出 O(log_1/p^3(N)N^-3) 的损失衰减率。 AI
影响 为更有效地分布式训练深度神经网络引入了理论框架,可能提高可扩展性。
排序理由 关于分布式计算新理论框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →