研究人员开发了一种名为Carry-Through Checksum的新型轻量级故障检测技术,用于边缘应用中的卷积神经网络(CNN)。该方法将校验和嵌入到卷积层中,在整个推理过程中计算和传播校验和,从而以最小的开销实现端到端的错误检测。实验表明,该技术在FP32中可检测到超过95%的关键故障,在FP16中可检测到超过86%的关键故障,而用于缓解的重新执行仅增加了嵌入式GPU上很小的运行时开销。 AI
影响 提高了资源受限的边缘环境中AI模型的可靠性,这对于安全关键型应用至关重要。
排序理由 详细介绍AI推理新技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Carry-Through Checksum
- CNNs
- convolutional neural network
- graphics processing unit
- half-precision floating-point format
- Mohammad Hasan Ahmadilivani
- NVIDIA Jetson Orin NX 16GB
- single-precision floating-point format
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →