研究人员开发了 Axon,一种新颖的超优化器,旨在提高 AI 加速器张量程序的性能。Axon 采用程序合成技术,根据语义规范自动生成目标指令,并通过探索语义等价的程序变体来选择最高效的内核。该系统通过计算图中的算子传播来发现代数变换,并利用 SMT 求解器确保语义不变性,无需手动重写规则。然后,它将张量运算转换为目标 ISA 指令,根据硬件约束优化切片配置,并融合算子以最小化内存流量。 AI
影响 这项研究可能带来更高效的 AI 硬件利用率,并减轻 AI 加速器程序员的开发负担。
排序理由 该集群包含一篇详细介绍优化张量程序新方法的 ist 研究论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →