研究人员开发了一个新的框架,用于优化视觉Transformer模型在联网和自动驾驶汽车(CAVs)中的部署。该框架通过动态调整模型分区点、量化比特宽度以及跨各种车载计算节点的执行位置,解决了静态分层推理方法的局限性。该系统旨在最小化计算和V2V通信的能耗,同时遵守延迟和任务质量的约束。 AI
影响 这项研究可能导致更高效的汽车AI处理,改善实时决策并减少通信开销。
排序理由 学术论文,详细介绍了一种新颖的技术方法。[lever_c_demoted from research: ic=1 ai=1.0]
- FP16
- Int8
- NVIDIA Jetson AGX Orin 64GB
- NVIDIA Jetson Orin Nano 8GB
- NVIDIA Jetson Orin NX 16GB
- OPV2V
- Vision Transformers
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →