PulseAugur
实时 06:44:50

Axon 超优化器使用程序合成技术优化 AI 加速器张量程序

研究人员开发了 Axon,一种新颖的超优化器,旨在提高 AI 加速器张量程序的性能。Axon 采用程序合成技术,根据语义规范自动生成目标指令,并通过探索语义等价的程序变体来选择最高效的内核。该系统通过计算图中的算子传播来发现代数变换,并利用 SMT 求解器确保语义不变性,无需手动重写规则。然后,它将张量运算转换为目标 ISA 指令,根据硬件约束优化切片配置,并融合算子以最小化内存流量。 AI

影响 这项研究可能带来更高效的 AI 硬件利用率,并减轻 AI 加速器程序员的开发负担。

排序理由 该集群包含一篇详细介绍优化张量程序新方法的 ist 研究论文。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

Axon 超优化器使用程序合成技术优化 AI 加速器张量程序

报道来源 [2]

  1. arXiv cs.CL TIER_1 English(EN) · Akash Kothari, Shaowei Zhu, Daniel Kroening, Chungha Sung ·

    Axon: A Synthesizing Superoptimizer for Tensor Programs

    arXiv:2606.26344v1 Announce Type: cross Abstract: Writing high performance kernels for AI accelerators requires deep expertise in tiling, instruction selection, data layout, and operator fusion placing a significant burden on programmers. In this paper, we focus on tile based AI …

  2. arXiv cs.CL TIER_1 English(EN) · Chungha Sung ·

    Axon: A Synthesizing Superoptimizer for Tensor Programs

    Writing high performance kernels for AI accelerators requires deep expertise in tiling, instruction selection, data layout, and operator fusion placing a significant burden on programmers. In this paper, we focus on tile based AI accelerator programs and present Axon, a synthesiz…