residual neural network
PulseAugur coverage of residual neural network — every cluster mentioning residual neural network across labs, papers, and developer communities, ranked by signal.
- instance of ResNet-18 95%
- instance of DagsHub 90%
- instance of alphaXiv 90%
- instance of Gotit.pub 90%
- instance of ScienceCast 90%
- instance of VideoGameGeek 90%
- instance of Deep Neural Networks 90%
- used by alphaXiv 70%
- instance of Vgg Neural Network 70%
- competes with Vgg Neural Network 70%
- used by EfficientNet 70%
- used by Vgg Neural Network 70%
11 天有情绪数据
-
Naive AI在7个月内获得4亿美元融资，由清华精英研究团队领衔
由清华大学副教授戴继峰创立的初创公司Naive AI在七个月内获得了4亿美元融资，投后估值达到14.2亿美元。该公司的核心团队被称为“戴继峰8人组”，成员来自微软亚洲研究院、商汤科技等机构和公司，在人工智能研究领域拥有深厚的背景。该团队在物体检测、视频识别、AI基础设施和自动驾驶感知等领域有着开创性的工作历史。
-
已证明两层线性网络的全局指数收敛性
研究人员已证明，使用光滑的Polyak-Lojasiewicz预测损失函数，可以实现宽两层线性网络的全局指数收敛。研究表明，因子中的梯度流可以通过有限维Bures流精确描述，该流受神经元定律协方差的影响。只要初始协方差满足谱支撑间隙条件，均值场守恒定律就能建立隐藏预处理块的谱下界，从而进一步支持了这种收敛速率。这些发现延伸到深度线性ResNets，并通过比较预测速率和观察速率的数值实验进行了说明。
-
深度学习模型TTNet分析乒乓球运动员数据
研究人员开发了TTNet，一个用于分析从智能球拍收集的乒乓球运动员数据的深度学习模型。该模型结合了卷积神经网络、残差网络和自注意力机制，可同时预测运动员的性别、惯用手、经验水平和技能等属性。TTNet采用两阶段训练策略，结合数据增强和特定任务的损失函数，以有效处理不平衡数据集。该模型在2025年AI CUP智能球拍数据分析竞赛中获得第二名。
-
Stockfish 国际象棋引擎的价值函数被提炼到神经网络中
一个项目已成功将 Stockfish 国际象棋引擎的价值函数提炼到一个神经网络模型中，该模型采用了 ResNet 和 Vision Transformer 架构。这个提炼后的模型在一个包含十亿个国际象棋局面（来自 Lichess 游戏）的海量数据集上进行了训练，并且完整的 39 亿个局面数据集已在 Hugging Face 上提供。该研究旨在创建一个比 Stockfish 本身更快的完整搜索树近似模型，有可能与现有的 NNUE 模型竞争。
-
ResNets 通过改变残差交互专家来隐式路由
一篇新的研究论文探讨了残差网络（ResNets）的内部工作机制，提出它们隐式地执行一种软路由。通过分析在 ImageNet 上训练的 ResNet-18 和 ResNet-34 模型，研究发现虽然所有网络块都会为每个输入执行，但这些块之间的特定交互会根据输入和预测类别而变化。这表明不同的输入利用网络内不同的“专家”交互，即使没有显式的路由机制。
-
研究论文将卷积神经网络拓扑结构与可训练性联系起来，而非仅仅层数
一篇新的研究论文探讨了卷积神经网络（CNN）的名义深度与其可训练性之间的关系，并引入了“有效深度”的概念。研究发现，虽然名义深度（层数）和有效深度都与准确率相关，但架构拓扑结构起着至关重要的作用。像ResNet和GoogLeNet这样的架构可以通过保持比其名义深度更低的有效深度来受益于增加的深度，这种现象被称为“有效深度悖论”。
-
新的ANCRe框架优化神经网络深度缩放
研究人员推出了一种新颖的ANCRe框架，旨在优化神经网络的深度缩放。通过自适应地学习和重新分配残差连接，ANCRe旨在以最小的计算开销提高更深层网络层的利用率。在大型语言模型、扩散模型和深度ResNets上的实验表明，与传统的残差连接方法相比，ANCRe可以加速收敛、提高性能并增加深度效率。
-
研究发现：脑肿瘤MRI基准存在严重数据集污染
一篇新发表在arXiv上的研究论文强调了公共脑肿瘤MRI分类基准中存在严重的数据集污染问题。该研究引入了一个三层框架来评估数据集的完整性，结果显示很大一部分测试数据在患者或采集源层面与训练数据重复或相关。令人惊讶的是，移除已识别的泄露测试图像并未显著改变报告的准确性，这表明当前的基准可能无法准确反映模型识别肿瘤的能力，还是利用了特定于数据集的线索。研究人员已发布了受污染的文件列表、恢复的患者标识符和去重后的分割集，以解决这些发现。
-
AI模型精准模拟平流层突然升温事件
研究人员开发了一种概率深度学习模拟器，具体来说是一个受ResNet启发的条件变分自编码器，用于模拟平流层变率的随机Holton--Mass模型。该模拟器能够准确重现关键动力学，包括强弱极涡状态之间的罕见转换率，这类似于平流层突然升温（SSW）事件。使用主成分分析对模型潜在空间进行的分析显示，其可以无监督地清晰地分为四个可解释的聚类，从而深入了解极端天气事件的潜在物理机制，并可能有助于改进预警系统。
-
机器学习研究探索对抗性训练以增强鲁棒性 · 跟踪 5 个来源
该机器学习论文集探讨了对抗性训练的各个方面。研究调查了对抗性噪声如何影响分类器鲁棒性，比较了不同的分布式训练算法及其在逃避局部最小值方面的效率。此外，一篇论文引入了一种对抗性训练的概率方法，另一篇则提出了一种包含字典结构的新型网络架构，以增强鲁棒性和泛化能力。这些研究共同旨在提高机器学习模型抵御复杂攻击的弹性。
-
AI模型不确定性未能反映人类在图像任务上的分歧
一项发表在Hugging Face的Daily Papers上的新研究调查了AI模型的不确定性是否与人类在图像标注任务上的分歧相关。研究人员使用了FER+和CIFAR-10H数据集，这些数据集为每张图像提供了多个标注以捕捉歧义，并评估了三种架构的八个预训练模型。研究结果表明，模型不确定性与人类分歧之间的相关性很弱，这表明当前的不确定性量化方法可能无法可靠地识别出人类认为模棱两可的实例。这突显了一个关键的失败案例，即模型可以自信地预测一…
-
LePoKet 框架通过可学习的知识迁移增强机器人视觉
研究人员开发了 LePoKet，一种用于机器人视觉系统知识迁移的新型框架。该方法在块状接口内优化交互参数，实现了可学习的参数优化，而无需依赖固定的蒸馏目标。LePoKet 在 CIFAR-10 和 CIFAR-100 等图像分类任务上显著降低了错误率，并提高了光流模型密集运动估计的性能。
-
新的 L-Lipschitz ResNet 框架使用 LMI 和 Gershgorin 定理
研究人员开发了一种新颖的方法，使用线性矩阵不等式 (LMI) 框架来构建 L-Lipschitz 深度残差网络 (ResNets)。该方法重新构建了 ResNet 架构，以纳入对网络参数的约束，确保 L-Lipschitz 连续性，从而增强对抗鲁棒性和可认证性。利用 Gershgorin 圆盘定理来近似特征值位置，保证了 LMI 的负半定性。虽然这种方法为 Lipschitz 约束网络提供了可证明的参数化，但已识别出的一个局限性是，基…
-
新方法应对AI模型测试时适应挑战 · 跟踪2个来源
研究人员开发了机器学习模型测试时适应的新方法。第一种方法MASA使用多模态大型语言模型来锚定语义描述，有助于打破模型在适应不断变化的数据分布时出现的自我参照错误循环。第二种方法TestDG侧重于持续测试时适应，旨在使模型能够泛化到未来未见的领域，同时保留先前领域的知识。两种方法在相关基准测试中均显示出有希望的结果。
-
DINO-Med框架适配DINOv3用于医学图像分析 · 跟踪2个来源
研究人员开发了DINO-Med，一个用于将DINOv3等自然图像基础模型适配到多模态医学图像分析的新框架，特别用于肝纤维化分期。该框架采用统一的、基于块的方法，包括无训练配准、自动定位和掩码过滤的块提取，以弥合自然图像和医学图像之间的领域差距。在一项使用CARE 2025 Liver Track 4队列的案例研究中，基于DINOv3的DINO-Med框架在轻度纤维化（S1）的分类准确率上达到78.4%，在肝硬化（S4）上达到75.8%…
-
新型攻击在神经网络中植入不可检测的后门
研究人员开发了一种新颖的攻击机制，可以将不可检测的后门植入现代神经网络，包括 ResNet 和 Vision Transformer 架构。该方法利用了网络潜层空间中学习到的表示的固有几何结构，而不是引入外部结构。该攻击在对干净准确率造成最小损害的情况下实现了高成功率，并且能够抵抗标准的训练后防御措施，这表明对于当前最先进的模型来说，加密后门保证可能在实践中是无法实现的。
-
Phase transition frequency predicts ResNet accuracy in training
研究人员发现了一种新的指标“相变频率”，可以预测ResNet模型在训练过程中的测试准确率。该指标统计离散的类别可分性跳跃次数，在CIFAR-10和CIFAR-100等标准基准测试中与准确率呈强负相关。然而，在分布偏移压力下，如在TinyImageNet和CIFAR-10-C基准测试中观察到的那样，这种预测能力会减弱。进一步分析表明，虽然相变频率是训练曲线信号中的一个强预测因子，但对于受压数据集，其他方法更有效。
-
新的SQS方法通过贝叶斯学习实现高深度神经网络压缩 · 跟踪2个来源
研究人员开发了一种名为SQS的新方法来压缩大型神经网络，使其能够在资源有限的设备上部署。这个统一的框架使用贝叶斯变分学习同时执行权重剪枝和低比特量化。SQS采用spike-and-slab先验进行稀疏性处理，并使用高斯混合模型对量化权重进行建模，在保持可比性能的同时实现了比现有方法更高的压缩率。在ResNet、BERT-base、Llama3.2和Qwen2.5等模型上的实验证明了其有效性。
-
ResNets克服了求解热方程的维度灾难
研究人员证明了残差神经网络（ResNets）在逼近半线性热方程解时，能够有效地克服维度灾难。该研究提供了理论保证，表明具有与维度和期望误差相关的参数数量的ResNets可以实现精确的逼近。证明过程涉及使用ResNet架构实现多层Picard估计器，并在特定条件下推导出特定的参数界限。
-
新AI系统高效监测和分类虎鲸发声
研究人员开发了一种新颖的两阶段级联系统，用于虎鲸的被动声学监测。该系统首先检测虎鲸发声，然后将其分类为五种不同的生态型，对模糊的叫声则不予分类。所提出的方法在DCLDE 2027数据集上取得了高性能，优于现有方法，并显著改善了对稀有生态型的识别。该系统还可以适应新的声学环境，如其成功适应华盛顿州普吉特湾声学环境所示。其效率使得在NVIDIA H100硬件上实现超实时推理成为可能，适合保护应用。