一篇新研究论文引入了“推理中断”(InfOut)概率的概念,以更好地评估边缘推理系统的可靠性。该指标量化了端到端推理准确率低于目标阈值的可能性,解决了现有以通信为中心的可靠性度量的局限性。所提出的框架通过高斯近似来建立通信开销和推理可靠性之间的权衡。实验结果表明,与传统方法相比,该方法提供了更优越的端到端推理可靠性。 AI
影响 引入新指标以提高部署在边缘设备上的AI模型的可靠性。
排序理由 学术论文发布在arXiv上,详细介绍了一种用于边缘AI系统的新指标。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →