Wuwenxiong 与清华大学和上海交通大学合作,开源了 APXInf,这是一款专为边缘设备上的具身 AI 设计的推理引擎。该引擎旨在优化具身模型在机器人平台上的性能,将 Jetson Thor 上 PI 0.5 FP8 模型的端到端延迟从约 278 毫秒显著降低到 26 毫秒以下。APXInf 支持多种硬件平台,包括 NVIDIA Jetson Orin、Jetson Thor 和 RTX 4090,并计划扩展支持国产芯片和其他硬件。 AI
影响 该开源引擎通过优化边缘设备的推理,降低延迟并提高实时控制能力,有望加速具身 AI 在机器人上的部署。
排序理由 专用于具身 AI 的推理引擎的开源发布,由学术机构合作开发。
- APXInf
- $\ ext{PI}_{0.5}$
- Jetson Thor
- NVIDIA Jetson Orin
- Python
- RTX 4090
- Rust
- Shanghai Jiao Tong University
- Tsinghua University
- Wuwenxiong
- Infinigence AI
- PI 0.5
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →