ViT-S/16
PulseAugur coverage of ViT-S/16 — every cluster mentioning ViT-S/16 across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
交叉验证改进了医疗影像AI的超参数调优
一篇新的研究论文探讨了深度学习图像分类器的超参数优化(HPO),特别是在医疗影像领域,因为该领域数据集通常较小。研究比较了三种HPO协议:固定留出法、重排留出法和5折交叉验证。结果表明,交叉验证提供了更可靠的测试性能估计,尤其是在数据有限的情况下,尽管它需要更多的计算资源。对于像Tiny ImageNet这样的大型数据集,不同协议之间的差异可以忽略不计。
-
SpecDrop 引入用于专业化 AI 模型的无参数路由
研究人员推出 SpecDrop,一种新颖的、用于专家混合(MoE)模型的无参数路由方法,该方法利用类别标签进行专业化。与依赖学习型路由器的传统 MoE 方法不同,SpecDrop 使用一种固定方案,其中每个分支为其类别分配一个概率,并为其他类别分配少量泄露。该方法在 CIFAR-100 和 ImageNet-1K 等视觉任务上取得了优异的成绩,在没有路由的情况下性能优于参数匹配的基线。研究表明,训练信号的粒度和它们与目标类别的对齐是路…
-
新的SEAMS方法识别出对AI模型行为至关重要的图像区域
研究人员开发了SEAMS,一种新颖的显著性方法,旨在识别对保留模型行为至关重要的图像区域。该方法使用保留目标来优化软掩码,直接搜索能够维持特定模型输出(如类别概率或嵌入)的紧凑掩码。SEAMS无需辅助数据集或特定于架构的机制即可运行,展示了其在ViT-S/16和ConvNeXt等不同模型上的灵活性。该方法生成稳定、可解释且具有竞争力的显著图,表明视觉解释可能依赖于架构。
-
AI模型为边缘牲畜监测进行蒸馏,减少VRAM需求
研究人员开发了一种轻量级蒸馏方法,用于SAM 3和DINOv3等大型基础模型,使其能够在边缘设备上部署用于牲畜监测。蒸馏后的管道显著减少了参数数量和VRAM使用量,能够适应NVIDIA Jetson Orin NX的配置。这一进展支持了精准畜牧业的设备端视觉分析,能够对动物健康和行为进行回顾性分析。