研究人员开发了Hawk，一个旨在为神经网络处理单元（NPU）生成高性能内核的新型框架。与以往在硬件特定知识方面存在困难的方法不同，Hawk采用了一种无训练的方法，包含三个关键模块：运行时知识合成、瓶颈感知知识检索和效应驱动知识蒸馏。该系统旨在通过整合硬件感知知识来克服大型语言模型在NPU环境中的局限性，从而显著提高生成准确性和执行速度。 AI
影响 该框架可以显著提高在专用NPU硬件上运行的AI模型的效率和性能。
排序理由 该集群包含一篇详细介绍NPU内核生成新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
