LeNet-5
PulseAugur coverage of LeNet-5 — every cluster mentioning LeNet-5 across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Deep Microcompression enables CNNs on microcontrollers
一篇新论文介绍了深度微压缩(DMC)方法,该方法旨在优化微控制器上的深度学习模型。DMC结合了结构化剪枝、感知量化训练和比特打包,显著减小了模型尺寸并提高了资源受限设备上的推理效率。该方法已成功地将卷积神经网络(CNNs)部署到仅有2KB SRAM的微控制器上,这在以前被认为是不可能实现的。
-
GPU欠压可提高CNN对抗鲁棒性和能源效率
研究人员开发了一种通过在训练期间降低GPU电压来增强卷积神经网络(CNN)对抗鲁棒性的方法。该技术引入了随机扰动,作为隐式正则化,提高了模型对对抗性攻击的抵御能力,同时降低了能耗。在MNIST和CIFAR-10数据集上对LeNet、VGG-6和MobileNetV3模型进行的实验表明,即使已经采用了对抗性训练,欠压训练也始终比标称电压下的标准训练具有更高的对抗准确性。这种硬件层面的方法提供了一种实用的方法,可以在不进行算法修改的情况下…
-
AI研究使用多臂老虎机剪枝神经网络
研究人员开发了一种新颖的方法来剪枝卷积神经网络(CNN)中的特征图,以降低计算成本和存储需求。该方法利用多臂老虎机算法,特别是UCB1和Thompson Sampling,在最小化准确性损失的同时识别和移除冗余特征图。研究表明,这些基于老虎机的算法在MNIST、CIFAR-10和SVHN等各种数据集上,其准确性与未剪枝模型相当,并且显著优于传统的贪婪和基于幅度的剪枝技术。
-
机器学习学生寻求研究实习指导,列出项目
一位用户在 r/MachineLearning 子版块上寻求研究实习指导。他们已经完成了几个机器学习项目,包括使用 NumPy 从头开始构建 MLP 和神经网络,以及实现 LeNet 和 AlexNet。目前,他们正在开发一个专注于强化学习在 Connect 4 游戏中的应用的项目。
-
新研究探讨深度学习模型覆盖率指标和安全性
研究人员进行了一项实证研究,以了解深度学习模型深度、配置与神经网络覆盖率指标之间的关系。该研究使用了LeNet、VGG和ResNet架构,以及从5层到54层的模型,分析了四种覆盖率指标:主要功能、边界、层次结构和结构覆盖率。此外,研究还探讨了修改后的决策/条件覆盖率与数据集大小之间的联系,并提出了增强DNN安全测试的三个未来研究方向。
-
新的FEnc2框架提升私有AI推理效率
研究人员开发了FEnc$^2$,这是一个旨在显著提高使用全同态加密(FHE)进行私有推理效率的新框架。该方法通过同时考虑卷积运算和网络架构来统一数据打包,以优化密文利用率并减少计算开销。在常见的图像识别任务中,FEnc$^2$在GPU上实现了高达228倍的端到端延迟缩减,在CPU上实现了高达226倍的延迟缩减。
-
新型计算内存宏提升边缘AI推理效率
研究人员开发了E-ReCON,这是一种新颖的计算内存(CIM)宏,专为边缘设备上的高效AI推理而设计。该宏利用紧凑的ReRAM位单元,能够为常规神经网络和脉冲神经网络执行乘法运算。该设计采用了交错加法器树以减少晶体管数量和功耗,从而实现高能效和低延迟。
-
研究人员结合 DPU 和 GPU 以加速神经网络推理
研究人员开发了一种新颖的方法,通过在深度学习处理单元 (DPU) 和图形处理单元 (GPU) 之间拆分卷积神经网络 (CNN) 计算来加速神经网络推理。这种“拆分 CNN 推理”方法在数据源附近的 DPU 上处理初始层,在 GPU 上处理后续层,从而显著降低延迟。还引入了一个图神经网络 (GNN) 模型,以准确预测各种 CNN 架构的最佳层划分,准确率达到 96.27%。