Central Processing Units

调查详述了Transformer推理在FPGA平台上的部署

一篇最近发表在arXiv上的调查论文详细介绍了在现场可编程门阵列（FPGA）平台上部署Transformer推理的进展。该论文强调FPGA作为推理任务的传统CPU和GPU的有前景的替代方案，提供了灵活性、能效和低延迟等优势，使其适合现场部署。该调查系统地回顾了FPGA上Transformer推理的最新技术和优化，旨在指导学术界和工业界的研究人员。