ConvNeXt
PulseAugur coverage of ConvNeXt — every cluster mentioning ConvNeXt across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
模型退火训练方法提高了数据效率和鲁棒性
研究人员推出了一种名为模型退火的新型训练技术,旨在提高机器学习的数据效率。该方法将训练分为多个阶段,学习率会先增加然后降低,每个降低后的状态都会存储在过去的网络迭代记忆中。然后,网络会从自身的知识中重新学习,结合原始标签和该记忆中的预测,特别是在学生模型和记忆模型不一致的地方。与标准的交叉熵训练和快照蒸馏相比,该方法在各种架构和数据集上都显示出准确性、校准性和鲁棒性的提高。
-
ConvNeXt详解:CNN借鉴Vision Transformer技术
本文深入探讨了ConvNeXt架构,解释了卷积神经网络(CNN)如何融入了Vision Transformer的元素。文章探讨了ConvNeXt的设计选择,并将其优点和缺点与Vision Transformer及早期CNN模型进行了对比。
-
新的集成头提高了视觉模型在植物阶段分类方面的效率
研究人员开发了一种新颖的多分支集成头技术,用于视觉基础模型,旨在提高这些模型在适应小型、特定领域数据集时的效率和准确性。该方法配对低容量和高容量分支,在训练期间随机采样一个,在推理期间平均两个,增加了最小的计算开销。将其应用于使用 NALEF Food Safety 数据集的黄瓜物候期分类,带有此集成头的 DINOv2 ViT-S 模型在参数和 GFlops 少得多的情况下实现了最先进的性能,使其适用于边缘设备。
-
新基准评估泰米尔手写字符识别的鲁棒性
研究人员推出 uTHCD-C,一个旨在评估泰米尔手写字符识别系统在各种损坏情况下的鲁棒性的新基准。该基准基于 uTHCD 数据集,包含五个严重程度级别的十种损坏类型,重点关注手写特有的笔画变细。测试了九种不同的卷积和基于 Transformer 的架构,结果显示 ConvNeXt 和 Swin Transformer 模型在损坏误差方面表现最佳,而 ShuffleNet 和 MNASNet 的鲁棒性较低。研究还分析了这些模型在鲁棒性和…
-
深度学习模型在乳腺癌诊断方面进行基准测试
研究人员评估了十种深度学习模型,包括DenseNet121等卷积神经网络(CNN)以及ViT和Swin Transformer等Transformer模型,用于诊断医学影像中的乳腺癌的有效性。DenseNet121的准确率最高,达到99.4%,AUC-ROC为0.999,显著优于其他模型,特别是基于Transformer的架构。该研究还采用了Grad-CAM和LIME等可解释人工智能技术,以确保模型的预测具有可解释性并关注诊断相关区域…
-
U-NeXt框架改进了新生儿脑电图事件检测并缩短了推理时间
研究人员开发了U-NeXt,一种用于检测新生儿脑电图(EEG)数据中事件的新型框架。这个通用系统利用卷积编码器-解码器架构来分割单个脑电图通道,通过长输入段保留时间上下文。U-NeXt在各种事件类型(包括低电压间隔、伪影和癫痫发作)上均显示出改进的检测准确性,并在癫痫发作检测基准测试中达到了专家级性能。此外,与现有方法相比,U-NeXt显著缩短了推理时间,使其成为连续监测和临床决策支持的有前途的工具。
-
新基准评估成像流式细胞术的自监督学习
研究人员推出了IFC-SSL-Bench,一个旨在评估多光谱成像流式细胞术(IFC)自监督学习(SSL)方法的新框架。该基准测试在两个数据集上评估了六种SSL方法和四种骨干架构,通过比较不同比例带注释数据下的下游分类性能来量化注释效率。研究发现,在形态学分类方面,SSL在仅使用5%的注释数据的情况下,其性能可以媲美完全监督基线,并在低数据量情况下取得了显著的改进。
-
ConvNeXt 模型在射箭箭头检测中达到 96.6% 的 F1 分数
一位机器学习研究员开发了一个用于射箭目标的箭头检测系统,在测试数据上达到了 96.6% 的 F1 分数和 80.5% 的准确率。该系统采用了在 DINOv3 上预训练的 ConvNeXt 模型,性能优于 ResNets 和纯 ViTs 等其他架构。该模型在包含约 48,000 张图像的数据集上进行了训练,这些图像包括合成的和手动标注的真实射箭目标,在训练过程中使用了总计 100 万个样本,并进行了大量的增强。
-
AI 可解释性研究员 Nick Cammarata 声称神经网络是“干净的”
AI 可解释性领域的知名研究员 Nick Cammarata 提出了一种新观点,认为神经网络比以往认为的要“干净”得多,也更容易理解。他的广泛研究利用了先进的工具和方法论,表明现代 AI 模型中绝大多数神经元都可以被清晰地解释,这挑战了 AI 是一个无法解释的黑箱这一存在了十年的观念。这项工作提出,过去理解 AI 的困难是由于观测工具的局限性,而非网络本身固有的复杂性,这可能重塑整个 AI 可解释性领域。
-
SparK-SAR 框架通过 ConvNeXt 增强 SAR 图像表示学习
研究人员开发了 SparK-SAR,一种用于 Sentinel-1 GRD SAR 图像的新型预训练框架,该框架利用稀疏卷积掩码预训练。这种基于 ConvNeXt 的方法专为在标记数据集和计算资源有限的遥感应用中进行数据高效学习而设计。SparK-SAR 引入了一个域适应编码器 ConvNeXt-RS 和一个轻量级重建解码器,在保持精度的同时显著减少了 VRAM 使用量。与非预训练基线和较大的 Vision Transformer 模…
-
AI模型实现新生儿脑电图生物标志物的专家级检测
研究人员开发了一种ConvNeXt模型,用于检测新生儿脑电图(EEG)中的低压间期(LVIs),将其作为比传统爆发间期更可靠的脑功能障碍生物标志物。该AI模型在检测LVIs方面达到了专家级水平,在一致性方面优于人工标注者。这种对LVIs的自动化量化与EEG分级和癫痫预测能力显示出很强的关联性,为诊断新生儿脑病及相关疾病提供了一个有价值的工具。
-
扩散修复生成健康乳腺钼靶图像以提高癌症检测准确性
研究人员开发了一种新颖的反事实数据增强技术,利用扩散修复来改进计算机辅助诊断(CAD)系统的乳腺钼靶分类。该方法通过从异常图像中移除病灶来生成逼真的健康乳腺钼靶图像,从而增强训练数据的分布。生成的健康反事实图像保留了患者特异性解剖结构,并被放射科医生认为逼真。在VinDr-Mammo数据集上的实验表明,包括ConvNeXt、ViT、Mammo-CLIP和FPN-MIL在内的各种分类器架构的灵敏度均有所提高,有助于提高CAD系统的可靠性。
-
研究发现,音频嵌入保留了重要的音乐内容
研究人员调查了各种预训练音频编码器生成的音频嵌入中保留的信息。通过使用共享的潜在扩散解码器从这些嵌入中重建音频,他们观察到基于编码器的训练目标及其暴露的时间和频谱分辨率,重建能力存在显著差异。即使是为特定任务设计的嵌入也表现出重建可测量源特异性和高级音乐内容的能力。
-
FCBNet 在航空影像中提供参数高效的杂草检测
研究人员开发了 FCBNet,这是一种参数高效的卷积神经网络,用于检测多光谱航空影像中的伪装杂草。该模型采用冻结的 ConvNeXt 主干和新颖的特征校正块 (FCB) 进行高效特征精炼,并结合轻量级解码器。FCBNet 在 WeedBananaCOD 和 WeedMap 数据集上表现出卓越的性能,mIoU 超过 85%,并且优于 U-Net 和 SegFormer 等模型,由于其参数高效的设计,所需的训练时间和内存显著减少。
-
新的MeCSAFNet架构改进了多光谱土地覆盖分割
研究人员推出了一种新颖的多编码器架构MeCSAFNet,专为多光谱图像的语义分割(特别是土地覆盖分类)而设计。该网络利用双ConvNeXt编码器独立处理可见光和非可见光光谱通道,然后融合它们的特征。该融合过程通过注意力机制和专门的激活函数得到增强,以确保稳定的优化。在基准数据集上的实验表明,与U-Net和SegFormer等现有模型相比,MeCSAFNet在平均交并比(mIoU)方面取得了显著的改进,其紧凑型变体为资源受限的应用提供了效率。
-
新型STORK模型可自动检测胎儿MRI中的子宫收缩
研究人员开发了STORK,这是一种新颖的多实例学习模型,旨在检测胎儿MRI扫描中的子宫收缩。该模型采用弱监督方法,基于系列级标签进行训练,无需逐帧标注。STORK分解时空卷积以有效捕捉组织运动和位移,在一个约700个MRI系列的数据集上实现了95.0%的系列级AUROC和94.6%的AUPRC。该模型识别胎盘以外预测性特征的能力,为分析子宫活动提供了一种新的自动化工具。
-
新型适配器改进了从脑信号中检索图像的功能
研究人员开发了一种名为 RPA(残差块-令牌适配器)的新型适配器,旨在改进从脑电图 (EEG) 和脑磁图 (MEG) 脑信号中检索图像的功能。该适配器通过利用 Vision Transformer (ViT) 编码器中间层的全部块令牌来工作,与仅使用单个全局嵌入的方法相比,保留了更丰富的视觉信息。实验表明,保留所有块令牌对于 EEG 对齐至关重要,而 CLS 令牌提供的独特信息最少。RPA 系统在 THINGS-EEG2 和 THIN…
-
线性映射能有效捕捉AI特征空间中的图像编辑
研究人员调查了深度学习模型内部特征空间中的图像操纵表示方式。他们的研究发现,一个简单的、空间共享的线性映射通常能近乎完美地预测各种图像编辑的结果,包括几何、光度和语义变化,其效果与更复杂的模型相当。这表明,虽然高秩分量用于优化图像细节,但这些线性算子中的主导奇异分量捕捉了语义内容,表明对于各种图像操纵,其表示具有一定程度的预测充分性。
-
研究论文将卷积神经网络拓扑结构与可训练性联系起来,而非仅仅层数
一篇新的研究论文探讨了卷积神经网络(CNN)的名义深度与其可训练性之间的关系,并引入了“有效深度”的概念。研究发现,虽然名义深度(层数)和有效深度都与准确率相关,但架构拓扑结构起着至关重要的作用。像ResNet和GoogLeNet这样的架构可以通过保持比其名义深度更低的有效深度来受益于增加的深度,这种现象被称为“有效深度悖论”。
-
论文探讨用于泰罗尼笔记识别的层次感知深度学习
一篇新论文探讨了使用分层深度学习模型来识别泰罗尼笔记,这是一种古老的拉丁速记系统。研究人员在手写和手稿样本上比较了 ResNet18 和 Vision Transformers 等标准分类器与层次感知模型。结果表明,在适应性有限的情况下,分层模型表现更好,而平面分类器在少样本适应方面表现出色。