CNNS
PulseAugur coverage of CNNS — every cluster mentioning CNNS across labs, papers, and developer communities, ranked by signal.
- instance of convolutional neural network 90%
- instance of DagsHub 90%
- instance of alphaXiv 90%
- used by deep learning 90%
- used by Vision Transformers 70%
- used by convolutional neural network 70%
- competes with Vision Transformers 70%
- instance of Recurrent Neural Networks 70%
- used by DagsHub 70%
- uses Vision Transformers 70%
- used by alphaXiv 70%
- instance of deep learning 70%
7 天有情绪数据
-
新型图元网络实现跨架构模型转换
研究人员开发了图元网络(GMNs),可以直接操作神经网络的参数,从而实现预测模型属性和转换已训练模型等任务。CrossGMN模型通过处理源网络和目标网络来专门解决跨架构转换问题,例如模型压缩。这种方法可以加快知识蒸馏的速度,并且无需重新训练即可在不同数据集之间进行迁移。此外,可迁移图元网络增强了GMNs,以在不同网络宽度下实现更好的泛化能力,尤其是在最大更新参数化($\mu$P)下训练的网络。
-
新框架统一了六种范式下的55个高光谱图像模型
一份新的技术报告介绍了一个名为“高光谱图像模型”的框架,该框架旨在标准化和统一高光谱遥感深度学习模型的发展。该框架整合了六种主要范式下的55个模型,包括CNN、Vision Transformers和Mamba,以及来自各种传感器的24个基准数据集。该倡议旨在通过提供一个通用注册表、标准化的数据适应和稳健的评估方法来防止准确性指标虚高,从而解决该领域的碎片化和不一致问题。
-
evMLP:用于高效视觉处理的新型事件驱动MLP架构
研究人员推出了一种新颖的全MLP架构evMLP,专为视觉任务,特别是视频处理而设计。该架构利用事件驱动机制,仅处理帧之间的变化区域,从而减少了冗余计算。evMLP在ImageNet等图像数据集上实现了具有竞争力的准确性,并在视频数据集上展示了显著的计算节省,这些节省在计算密集型条件下转化为实际的速度提升。
-
新的校验和方法增强了边缘设备上CNN的故障检测能力
研究人员开发了一种名为Carry-Through Checksum的新型轻量级故障检测技术,用于边缘应用中的卷积神经网络(CNN)。该方法将校验和嵌入到卷积层中,在整个推理过程中计算和传播校验和,从而以最小的开销实现端到端的错误检测。实验表明,该技术在FP32中可检测到超过95%的关键故障,在FP16中可检测到超过86%的关键故障,而用于缓解的重新执行仅增加了嵌入式GPU上很小的运行时开销。
-
视觉骨干网络在机器人树分割和深度估计方面的比较
一篇新的研究论文探讨了不同的视觉骨干网络架构对机器人应用的联合树分割和立体深度估计的影响。研究发现,卷积模型和混合模型在性能上优于Transformer模型,其中一个小型编码器显著优于许多大型模型。有趣的是,分割和深度估计任务的排名显示出高度一致性,一个关键发现是边界F1指标揭示了区域IoU指标所隐藏的分割失败。
-
新框架优化移动端AI推理延迟
研究人员开发了一种新的移动异构推理调度框架,结合了算子间和算子内并行。该方法旨在减少由静态有向无环图(DAG)表示的任务的推理延迟,例如涉及CNN或Vision Transformers的任务。提出的在线迭代搜索框架将大型DAG分解为多个阶段,并使用延迟预测器来估计分区执行,从而在部署时以最小的开销实现平台特定的调度。
-
新的SPICE框架简化了视觉模型中的多义性分析
研究人员开发了SPICE,一个新颖的框架,旨在简化深度视觉架构中多义性的分析。这种新方法提供了一种可泛化的方法,不依赖于特定的模型架构,从而首次能够系统地比较卷积神经网络(CNN)和Transformer之间的多义性。SPICE还自动确定每个神经元概念聚类的最佳数量,无需手动输入,并能够对大型模型进行可扩展分析。
-
研究发现,少样本学习在NIDS领域以元学习和CNN为主导
最近的一篇arXiv预印本调查了2022年至2026年间关于网络入侵检测系统(NIDS)的少样本学习方法的21项研究。调查发现,元学习和卷积神经网络(CNN)是该研究领域的主导技术。然而,该论文强调了由于缺少代码和测试数据集小而在实际部署中面临的挑战。
-
Elastoformer框架在神经网络中实现动态自适应
研究人员推出Elastoformer,一个旨在使深度神经网络更能适应边缘设备上动态条件的新框架。与需要为不同计算预算使用多个模型的现有方法不同,Elastoformer使单个模块化网络能够实时调整其推理模式。这种方法在包括Vision Transformers和CNN在内的不同神经网络架构中,显著减少了计算操作、延迟和内存使用。
-
AI模型在脑MRI中表现可媲美解剖学特征
研究人员对用于结构性脑MRI分析的AI模型的特征提取方法进行了全面评估。他们的研究使用了18个公共数据集和约80,000名参与者,发现基于解剖学特征的简单线性模型与CNN和Vision Transformers等复杂AI框架表现相当。该研究还提出了一种名为解剖学分割预训练(ASP)的新方法,将解剖学信息整合到基础模型预训练中,并在生物年龄估计方面表现出改进的性能。
-
AI 的下一个前沿:Mamba、JEPA 和 Diffusion 模型有望取代 Transformer
自 2017 年以来占据主导地位的 Transformer 架构正经历着 AI 领域的周期性转变,可能被状态空间模型(Mamba)和联合嵌入预测架构(JEPA)等新架构取代。这种转变是由 Transformer 的局限性驱动的,例如长上下文的二次方扩展问题、训练数据收益递减、高昂的能源成本以及超越模式匹配实现真正理解的基本能力不足。Gemini Diffusion、Nvidia 的 Nemotron 3 和 Qwen 3.5 等新兴模…
-
AI研究揭示蒸馏瓶颈,标签感知方法提升性能
研究人员在Vision Transformer与小型CNN之间的知识蒸馏中发现了一个显著的几何瓶颈。标准的余弦蒸馏会导致学习到的表示坍缩到低维空间,而与CNN的参数数量无关。虽然一个辅助的InfoNCE目标可以扩展这种维度,但它却会使下游准确率降低15-18个百分点。然而,一种标签感知的监督对比蒸馏方法通过在保持或提高准确率的同时增加维度,显示出潜力,这表明维度扩展的效用取决于目标是否为标签感知。
-
基础模型在眼病检测方面未显示出优于CNNs的一致优势
一篇新研究论文评估了基础模型(FMs)从眼底图像检测糖尿病黄斑水肿(DME)的有效性。研究发现,虽然测试了RETFound和FLAIR等基础模型,但它们在传统微调的卷积神经网络(CNNs)方面并未始终表现更优。具体而言,在各种设置下,EfficientNetB0模型取得了具有竞争力或更优的性能,这表明在数据稀缺的环境中,轻量级CNNs可作为DME检测的有力基线。
-
新的TRACE框架增强了机器人决策的可审计性
提出了一种名为TRACE的新决策框架,以增强由深度学习驱动的自主机器人的可审计性。该框架确保机器人做出的每一个决策都可以追溯到为其提供信息的传感器证据,将决策过程组织成四个可审计的层次:语义感知、信念推理、动作合成和执行验证。TRACE框架旨在做到模型无关,可与CNN和Transformer等各种感知模块集成,同时保持透明度,并满足欧盟人工智能法案对高风险系统的要求。
-
新框架使用归一化流对真实图像噪声进行建模
研究人员开发了一个新的归一化流 (NF) 框架,以更有效地对真实图像噪声进行建模。与之前在采样阶段仍依赖相机元数据的旧方法不同,该新框架会估计底层相机设置,以改进噪声建模并生成多样化的噪声分布。实验结果表明,该方法在基准数据集上实现了卓越的噪声质量并增强了去噪性能。
-
新基准评估用于地球观测变化检测的AI
开发了一个新的基准来评估地球观测变化检测的AI方法,解决了当前研究中的不一致性。该基准标准化了评估协议,并在十个多样化的数据集和包括CNN和ViT在内的十个模型架构中考虑了预测准确性和计算效率。研究发现,当效率是一个因素时,优化的经典模型(如Siamese U-Nets)通常比复杂的当代模型表现更好,并且预训练在不增加推理成本的情况下持续提高性能。所有遵循FAIR原则的可复现性资源均公开可用。
-
Ampere系统提升分体式联邦学习的效率和准确性
研究人员推出Ampere,一个旨在提高分体式联邦学习(SFL)效率和准确性的新系统。Ampere解决了传统SFL的局限性,传统SFL通常存在通信开销高和非独立同分布(non-IID)数据准确性降低的问题。新系统采用单向块间训练和轻量级辅助网络生成方法,显著降低了设备上的计算和设备-服务器通信。实验表明,与现有的SFL方法相比,Ampere的模型准确性提高了多达11.70个百分点,训练速度提高了18.6倍,通信和计算成本显著降低,并且在…
-
新的基于图的人工智能学习心电图模式以诊断疾病
研究人员开发了一种新颖的基于图的伪多模态对比学习框架Graph-CMMC,以改进12导联心电图(ECG)数据的分析。该方法通过模拟导联间依赖性和全局波形模式来解决现有方法的局限性,这对于诊断冠状动脉疾病等病症至关重要。该框架将ECG波形转换为Gramian Angular Difference Field(GADF)图像,以创建互补表示,从而实现自我监督学习,对齐这些不同的视图,同时基于图的模块强制执行跨导联的结构一致性。
-
新的无代码工具简化了结构缺陷检测的 AI 应用
研究人员开发了 YOLOEZ,一个开源的、基于 GUI 的工具,旨在简化 YOLO 模型在自动结构缺陷检测中的应用。这个无代码工作流将数据标注、模型训练和推理集成到一个单一界面中,旨在降低限制先进计算机视觉技术在结构健康监测中应用的技能门槛。YOLOEZ 在与传统方法和其他现代计算机视觉工具相比,表现出了卓越的性能,使得 AI 驱动的预测性维护和数字孪生应用更加易于获取。
-
新的M-Fibration理论为神经网络压缩提供框架
一种新的理论框架M-Fibration Theory已被引入,它将图纤维化(graph fibrations)的概念扩展到处理加权图和代数结构。该理论为理解和应用近似纤维化提供了坚实的数学基础。该论文通过将其应用于各种神经网络(包括卷积神经网络CNNs)的压缩来展示其效用,从而为几何深度学习的最新进展提供了理论支持。