研究人员开发了一种方法，将 transformer 模型部署到 AMD Versal AI 引擎上进行喷注标记，这是大型强子对撞机触发系统的一个组成部分。该方法将模型量化为仅使用整数，并将密集层和多头注意力层映射到 AI 引擎块。该项目还包括一个可重用的软件框架，允许将 transformer 层表示为可组合的 AI 引擎构建块，并从 Python 描述自动生成 Vitis 图代码。该框架作为开源软件提供。 AI
影响 使得先进的 AI 模型能够在专门的、低延迟的科学计算环境中部署。
排序理由 该条目描述了一篇研究论文，详细介绍了在专用硬件（AMD Versal AI 引擎）上为特定科学应用（CERN LHC 的喷注标记）实现 transformer 模型的新方法，并发布了开源软件。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
