SM8650

高通 NPU 编译器被逆向工程以优化边缘 AI

一位研究人员逆向工程了高通神经网络处理单元 (NPU) 的编译器，以更好地理解和优化边缘 AI 部署。研究结果表明，该编译器使用复杂的 MILP 求解器进行 VTCM 放置，并能自动改变权重精度以管理内存压力。这项详细分析，包括经验参数扫描和使用 Claude Code 进行的代码分析，为高通 NPU 上先前未被记录的内存瓶颈和编译器行为提供了关键见解。