研究人员开发了一种名为NIFA的新型FPGA架构,可提高深度学习推理效率。该架构集成了使用模拟内容可寻址内存(ACAM)的无ADC片上计算(IMC)模块,以原生执行非线性运算。NIFA系统优化了FPGA的交叉开关尺寸,并利用ACAM进行动态矩阵-矩阵乘法,将IMC的应用范围扩展到Transformer模型中的注意力计算。这种方法显著提高了CNN和基于Transformer的工作负载的能效和面积效率。 AI
影响 这项研究可能为部署深度学习模型(尤其是基于Transformer的架构)带来更节能、更节省面积的硬件。
排序理由 该集群包含一篇详细介绍新型机器学习推理硬件架构的研究论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →