研究人员开发了一个名为协同自学神经外科医生(CANS)的新框架,以提高移动边缘设备上协作深度神经网络推理的效率。CANS允许设备在推理过程中共享反馈,自适应地学习最优模型分区,从而应对网络条件波动和设备能力多样性带来的挑战。该框架采用FedLinUCB-DW算法进行设备分组,并利用离线经验加速探索,并对其性能提供理论保证。在原型实验中,CANS与非协作方法相比,推理延迟显著降低了高达50%。 AI
影响 优化协作边缘推理,有望降低移动AI应用的延迟并改善用户体验。
排序理由 在arXiv上发表的学术论文,详细介绍了边缘AI推理的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →