研究人员开发了Cleave,这是一种新的机器学习编译器,旨在优化大型模型的张量程序。Cleave采用符号解耦策略,首先在具有符号形状的图上执行超优化,然后在具体形状上调度转换后的图。这种方法可以有效地处理具有多个归约的计算,并已显示出显著的速度提升,生成的内核比现有基线快2.8倍。 AI
影响 Cleave的优化技术可能导致大型AI模型执行更快、更高效。
排序理由 详细介绍用于优化ML模型的新编译器技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →