CNNS
PulseAugur coverage of CNNS — every cluster mentioning CNNS across labs, papers, and developer communities, ranked by signal.
- instance of DagsHub 90%
- instance of alphaXiv 90%
- instance of convolutional neural network 90%
- instance of ScienceCast 90%
- used by Vits 90%
- used by convolutional neural network 80%
- uses Vision Transformers 70%
- used by Vision Transformers 70%
- used by DagsHub 70%
- used by alphaXiv 70%
- instance of Gotit.pub 70%
- instance of Vits 70%
9 天有情绪数据
-
新的贝叶斯方法可恢复紧凑型CNN架构
研究人员开发了SoU-RHS,这是一种新颖的贝叶斯结构化稀疏性程序,旨在从大型卷积神经网络(CNN)中恢复紧凑型架构。该方法通过引入不确定性稀疏全局-局部源(SoU-SGL)机制来增强正则化马蹄收缩(RHS)技术,该机制能有效区分激活和非激活的滤波器。SoU-RHS通过在各种初始模型宽度和剪枝阈值下持续识别相似的紧凑结构来展示稳定性,表明它能适应数据,而不仅仅是压缩单个模型。在图像分类基准测试中,SoU-RHS产生的架构比现有方法显著…
-
新方法揭示农业CNN中可解释的视觉属性
研究人员开发了一种使用概念归纳法来理解农业卷积神经网络(CNN)中上下文偏差的方法。该方法分析隐藏神经元激活,以揭示与图像块相关的可解释视觉属性,而不仅仅依赖于分类准确性。研究发现,中间网络深度和特定纹理特征(如边缘和Gabor滤波器)最常与已验证的神经元-特征对相关。有趣的是,数据集中更强的上下文偏差不一定会导致更高的验证率,这表明行为上下文依赖性和语义可解释性是CNN行为的不同方面。
-
FlyNet模型采用类脑连接实现极致效率
研究人员开发了FlyNet,一个受其生物神经连接组约束的果蝇视觉系统神经网络模型。在碰撞检测任务上与CNN和RAFT等人工神经网络进行基准测试时,FlyNet表现出显著更高的效率,使用的FLOPs减少了多达五个数量级。虽然FlyNet容易受到对抗性扰动的影响,但其他没有详细神经连接组约束的连续时间递归神经网络(CTRNN)表现出更大的鲁棒性。该研究表明,神经连接组约束提高了效率而非鲁棒性,并且FlyNet的脆弱性可以为生物感知机制提供…
-
研究颜色在遮挡情况下的物体识别作用
一篇新研究论文探讨了在物体部分被遮挡时,颜色如何影响人类和计算机视觉系统中的物体识别。研究发现,虽然伪装遮挡会负面影响人类识别和Transformer模型,但传统的CNN模型在具有上下文相关性的颜色下表现更好,这表明它们利用颜色进行识别,而不是被颜色干扰。该研究还引入了非遮挡精度和召回率等新指标来解释模型在遮挡下的行为,并证明了使用伪装遮挡物进行训练增强可以提高CNN的鲁棒性。
-
TrustMix 方法增强预训练模型应对分布偏移能力
研究人员推出了一种新颖的后验方法 TrustMix,旨在提高预训练模型在面对分布偏移时的鲁棒性。该技术通过将其预测分布与用户指定的后备分布相结合,使模型的推断行为变得明确且可控。随着与训练数据偏差的增加,TrustMix 会平滑地过渡到该后备分布,从而实现优雅降级,而无需重新训练模型。该方法已在表格、图像和自然语言处理等各种任务中证明了其有效性,在预测不确定性和校准方面有所改进。
-
乳腺X线摄影分类器中的显著性图谱对致密乳腺存在偏见
一篇新发表在arXiv上的研究论文调查了乳腺X线摄影分类器中显著性图谱的公平性,特别关注致密乳腺,因为在致密乳腺中癌症可能更难检测。研究发现,旨在显示分类器在寻找癌症时关注区域的显著性图谱,在致密乳腺中的表现不如在非致密乳腺中。研究人员发现,钙化点的存在以及分类器在致密乳腺中对病灶的依赖性降低等因素导致了这些性能差距。他们建议报告分类器的这些特定于密度的性能差异,并控制病灶的可见性和模型对病灶的依赖性。
-
校正流在无需干净目标的情况下显示出CT去噪潜力
研究人员探索了使用无条件校正流作为低剂量CT扫描去噪的方法,而无需干净的训练目标。他们的研究结果表明,校正流的一步积分是实现最小均方误差的最优选择,而进一步的积分步骤实际上会增加误差。实验表明,这种一步法在Noise2Noise对上进行直接回归时表现相当,优于额外的欧拉步。虽然监督卷积神经网络(CNN)取得了显著的进步,但无标签性能高度依赖于训练对如何处理相关的CT噪声,并且保真度增益并不总是能转化为可检测病灶的改善。
-
ConvNeXt详解:CNN借鉴Vision Transformer技术
本文深入探讨了ConvNeXt架构,解释了卷积神经网络(CNN)如何融入了Vision Transformer的元素。文章探讨了ConvNeXt的设计选择,并将其优点和缺点与Vision Transformer及早期CNN模型进行了对比。
-
综述详述面向边缘设备的视觉Transformer压缩技术
一篇新发表在arXiv上的综述论文详细介绍了在边缘设备上部署视觉Transformer(ViTs)的模型压缩与加速策略。该论文系统地回顾了各种模型压缩技术和面向硬件的加速方法,解决了与传统卷积神经网络(CNNs)相比,ViTs在计算和内存方面带来的重大挑战。它旨在通过分析不同平台(如GPU、ASIC和FPGA)上准确性、效率和硬件适应性之间的权衡,为研究人员和开发人员提供一份全面的指南。
-
旋转等变深度学习改进大脑年龄预测
研究人员开发了一个新颖的框架,利用捕捉白质纤维方向分布的弥散 MRI 数据来预测大脑年龄。该方法采用了一种旋转等变卷积神经网络 (CNN),该网络处理纤维方向分布的球谐系数,保留其几何特性。在一项对 692 名参与者的研究中,该方法与传统的弥散张量成像 (DTI) 模型和传统 CNN 相比,表现更优越,平均绝对误差为 3.54 岁,Pearson 相关系数为 0.958。该研究还确定了对年龄预测最敏感的特定白质束,提供了解剖学上的可解释性。
-
新的QUAN框架增强了图像分类和目标检测
研究人员开发了四元数近似网络(QUAN),这是一个新颖的深度学习框架,它使用四元数代数进行旋转等变图像分类和目标检测。QUAN使用实值运算来近似四元数卷积,从而能够高效实现并提高性能。该框架在分类任务上已证明具有更高的准确性、更少的参数和更快的收敛速度,并且在目标检测方面与现有模型相比,具有更好的参数效率和旋转处理能力。
-
新方法对齐神经网络权重,降低 NeRF 模型中的障碍
研究人员开发了一种名为“渐进式排列对齐与温度控制谱锐化”(Progressive Permutation Alignment with Temperature-Controlled Spectral Sharpening)的新方法,以解决隐式神经网络表示(INRs)中的排列对称性挑战。该技术通过渐进式对齐层,使用匈牙利算法进行离散匹配,并使用谱退火进行锐化,从而实现稳定的权重空间操作。该方法在恢复神经元对应关系和降低 MLP、CNN …
-
新的时空攻击增强了对认知雷达的对抗性威胁
研究人员开发了一种名为分段时空攻击(SSTA)的新方法,以提高对抗性攻击对认知雷达的有效性。SSTA通过增强跨架构可迁移性和对物理通道失真的抵抗力来解决现有攻击的局限性。该技术使用特征解耦机制,并将通道失真整合到其攻击迭代中,在各种深度学习模型上展示了攻击成功率的显著提高。
-
VeilNN框架增强边缘神经网络安全性,抵御对抗性攻击
研究人员开发了VeilNN,一个旨在保护部署在边缘设备上的神经网络免受跨节点对抗性攻击的新型防御框架。该框架通过架构和参数混淆引入受控的多样性,使得攻击者难以将在一个受损设备上精心设计的攻击转移到共享相同模型的其他设备上。VeilNN已显示出显著的有效性,在各种攻击类型和神经网络架构上,与现有方法相比,防御成功率提高了33.16%以上。
-
深度学习系统以95%的准确率检测母牛分娩宫缩
研究人员开发了一种使用深度学习的计算机视觉系统,可自动检测哺乳奶牛的分娩宫缩。该系统利用卷积神经网络(CNN)和视觉Transformer(ViT),分析视频片段,以超过95%的准确率识别宫缩行为。该技术旨在通过实时监测和及时干预分娩过程,提高奶牛业的动物福利和生产力。
-
新方法增强了针对MLLM和视觉模型的对抗攻击的迁移性
研究人员开发了新的方法来提高对抗性攻击针对多模态大语言模型(MLLM)和视觉语言模型的迁移性。第一种方法IAU-FOA在全局和局部层面匹配对抗样本和目标样本,使用最优传输进行细粒度特征匹配,并通过视觉不变性增强来提高跨不同视觉编码器的泛化能力。第二种方法LI-Boost侧重于增强对抗性扰动中的局部不变性,证明了这种局部不变性与跨各种模型架构甚至商业视觉API的迁移性提高之间存在正相关。
-
新型图元网络实现跨架构模型转换
研究人员开发了图元网络(GMNs),可以直接操作神经网络的参数,从而实现预测模型属性和转换已训练模型等任务。CrossGMN模型通过处理源网络和目标网络来专门解决跨架构转换问题,例如模型压缩。这种方法可以加快知识蒸馏的速度,并且无需重新训练即可在不同数据集之间进行迁移。此外,可迁移图元网络增强了GMNs,以在不同网络宽度下实现更好的泛化能力,尤其是在最大更新参数化($\mu$P)下训练的网络。
-
新框架统一了六种范式下的55个高光谱图像模型
一份新的技术报告介绍了一个名为“高光谱图像模型”的框架,该框架旨在标准化和统一高光谱遥感深度学习模型的发展。该框架整合了六种主要范式下的55个模型,包括CNN、Vision Transformers和Mamba,以及来自各种传感器的24个基准数据集。该倡议旨在通过提供一个通用注册表、标准化的数据适应和稳健的评估方法来防止准确性指标虚高,从而解决该领域的碎片化和不一致问题。
-
evMLP:用于高效视觉处理的新型事件驱动MLP架构
研究人员推出了一种新颖的全MLP架构evMLP,专为视觉任务,特别是视频处理而设计。该架构利用事件驱动机制,仅处理帧之间的变化区域,从而减少了冗余计算。evMLP在ImageNet等图像数据集上实现了具有竞争力的准确性,并在视频数据集上展示了显著的计算节省,这些节省在计算密集型条件下转化为实际的速度提升。
-
新的校验和方法增强了边缘设备上CNN的故障检测能力
研究人员开发了一种名为Carry-Through Checksum的新型轻量级故障检测技术,用于边缘应用中的卷积神经网络(CNN)。该方法将校验和嵌入到卷积层中,在整个推理过程中计算和传播校验和,从而以最小的开销实现端到端的错误检测。实验表明,该技术在FP32中可检测到超过95%的关键故障,在FP16中可检测到超过86%的关键故障,而用于缓解的重新执行仅增加了嵌入式GPU上很小的运行时开销。