研究人员开发了一种方法,将 transformer 模型部署到 AMD Versal AI 引擎上进行喷注标记,这项任务对于 CERN 大型强子对撞机的触发系统至关重要。该方法涉及一个量化的、仅整数的 transformer,它将密集和多头注意力层映射到 AI 引擎块。一项关键贡献是一个可重用的软件框架,可以从 Python 模型描述生成 Vitis 图代码,从而支持未来的研究并提供开源解决方案。 AI
影响 使得在资源受限的科学仪器中部署先进的 AI 模型成为可能,有望加速高能物理领域的实时数据分析。
排序理由 该集群描述了一篇研究论文,详细介绍了在专用硬件上为特定科学应用(喷注标记)实现 Transformer 模型的新颖方法。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →