FedLinUCB-DW

新的CANS框架将边缘AI推理延迟降低50%

研究人员开发了一个名为协同自学神经外科医生（CANS）的新框架，以提高移动边缘设备上协作深度神经网络推理的效率。CANS允许设备在推理过程中共享反馈，自适应地学习最优模型分区，从而应对网络条件波动和设备能力多样性带来的挑战。该框架采用FedLinUCB-DW算法进行设备分组，并利用离线经验加速探索，并对其性能提供理论保证。在原型实验中，CANS与非协作方法相比，推理延迟显著降低了高达50%。