$\ ext{PI}_{0.5}$

具身 AI 推理引擎 APXInf 由 Wuwenxiong、清华大学、上海交大开源

Wuwenxiong 与清华大学和上海交通大学合作，开源了 APXInf，这是一款专为边缘设备上的具身 AI 设计的推理引擎。该引擎旨在优化具身模型在机器人平台上的性能，将 Jetson Thor 上 PI 0.5 FP8 模型的端到端延迟从约 278 毫秒显著降低到 26 毫秒以下。APXInf 支持多种硬件平台，包括 NVIDIA Jetson Orin、Jetson Thor 和 RTX 4090，并计划扩展支持国产芯片和其他硬件。