研究人员开发了一种新的硬件感知调度方法,称为异构帧调度(H-FraDS),以优化视觉Transformer在自动驾驶汽车异构边缘GPU上的部署。该方法通过在GPU和DLA核心之间路由帧来解决硬件利用率和加速器不兼容算子方面的限制。适应后的模型保持了高F1分数,而H-FraDS均衡调度配置实现了显著的加速,满足了实时运行的要求。 AI
影响 这项研究可能导致自动驾驶汽车中更高效的AI处理,从而以更低的功耗实现实时性能。
排序理由 学术论文,详细介绍了在边缘硬件上优化AI模型部署的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- Ashiyana Abdul Majeed
- Heterogeneous Frame Dispatch Scheduling
- NVIDIA
- Swin Transformer
- Vision Transformers
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →