研究人员开发了DyRA,一种提高深度神经网络(DNN)中矩阵乘法效率的新颖方法。DyRA在推理过程中动态地近似和纠正由结构化权重近似引入的输出误差,从而在相同的计算预算下获得更准确的结果。该方法在视觉、语音和语言模型中都显示出了一致的改进,提供了比仅依赖结构化权重近似的方法更好的准确性-效率权衡。 AI
影响 DyRA提供了一种更有效的方式来运行大型AI模型,有可能降低推理成本并提高各种AI应用的性能。
排序理由 该集群包含一篇详细介绍提高DNN效率新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →