Imagenet 1k
PulseAugur coverage of Imagenet 1k — every cluster mentioning Imagenet 1k across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
新的DM-VAE方法在无外部先验知识的情况下改进了潜在扩散模型
研究人员推出了一种新方法——双流形变分自编码器(DM-VAE),通过解决离流形问题来改进潜在扩散模型。与依赖外部基础模型进行拓扑正则化的方法不同,DM-VAE利用内部表示。它将一个高维分支用于重建,一个低维分支用于提取干净的拓扑骨架,从而锚定高维流形。该方法在ImageNet-1K上取得了最先进的成果,证明了其在生成高质量图像方面的有效性。
-
新的无训练方法可扩展图像生成和分类的神经网络
研究人员开发了一种新颖的无训练方法来扩展神经网络,特别适用于图像生成和分类任务。这种称为信号插值的方法涉及对卷积层进行插值,并在使用 Stable Diffusion 1.5 生成更高分辨率图像方面显示出有效性。该方法在 ImageNet-1k 等分类任务中也显示出减少模型参数的潜力,且性能下降极小。
-
AI管道通过迁移学习增强藻华分割
研究人员开发了一种新颖的迁移学习管道,以改进淡水体中藻华的分割。该方法利用了具有注意力机制增强的Swin Transformer U-Net架构,并利用了在ImageNet-1K和水体分割数据集上的预训练。通过扩展标记的藻华数据集,该管道显著提高了性能,减少了假阳性,并提高了整体分割精度。
-
AdaS-ViT 推进了能效高的脉冲视觉Transformer
研究人员开发了AdaS-ViT,一种用于脉冲视觉Transformer的新型架构,旨在实现超高能效。该模型采用测试时自适应路由,允许它根据注意力分数动态调整发放模式,以最大限度地减少计算冗余。通过选择性地将显著区域进行细粒度发放,并将节能模式分配给其他区域,AdaS-ViT在保持ImageNet-1k等基准测试具有竞争力表现的同时,实现了显著的节能。
-
研究人员发现架构搜索方法在高压缩率下失效
研究人员在用于架构搜索的块蒸馏方法中发现了一个关键限制,尤其是在DeiT-S和DeiT-B等模型中。这些方法对单个替换块进行加性评分,当压缩率达到原始块延迟预算的55-40%时,这些方法开始显著失效。研究表明,这种失效主要归因于KL加性误差的度量和功能组成部分,其影响因模型架构而异。提出的混合搜索方法通过logit-sum预测器对移动进行排序,并且仅测量最佳候选者,为现有的二次规划方法提供了一种更有效且通常更优越的替代方案。
-
新的蒸馏方法提高了离散扩散模型的效率和质量
研究人员开发了新的离散扩散模型蒸馏方法,以提高效率和质量。一种方法,双向中心分数匹配(BCSM),提供了一种高效的目标,可降低计算复杂性,同时提高在HumanEval和MMMU等基准测试上的性能。另一种方法,无假分数网络DMD(FSF-DMD),修改了分发匹配蒸馏,消除了对辅助假分数网络的需求,在ImageNet-1K实验中取得了有竞争力的结果。
-
BDNet 引入快速-慢速思维以实现高效图像分类
研究人员推出 BDNet,这是一种新颖的、用于增强效率和鲁棒性的分层图像分类骨干网络。该网络采用“快速-慢速思维”方法,使用基线变形算子 (BDO) 来处理相对于特定阶段统计参考的特征偏差。与依赖于成对 token 相似度的方法不同,BDNet 直接在残差上操作,其复杂度相对于 token 数量呈线性关系。该模型的架构包含四个具有特定深度和宽度的阶段,最终形成一个拥有 2070 万个参数的分类器。通过在 ImageNet-1K 上进行…
-
WithinVAE 通过自蒸馏在视觉自编码器中实现 4 倍压缩
研究人员开发了 WithinVAE,这是一种新颖的视觉自编码器,无需外部语义监督即可实现高重建保真度和紧凑性。该模型利用顺序瓶颈和来自其自身 EMA 副本的自蒸馏来组织其自身表示中的语义结构。WithinVAE 在 ImageNet-1K 上展示了 4 倍的压缩比并提高了重建指标,同时与现有方法相比还增强了线性探测性能。
-
新的LocaLeJEPA框架通过几何先验改进了自监督学习
研究人员推出了LocaLeJEPA,一个用于自监督学习的新框架,解决了联合嵌入预测架构(JEPA)中的表示坍塌问题。与先前依赖欧几里得几何的方法不同,LocaLeJEPA通过使用流形理论重新构建JEPA的熵最大化特性来整合特定领域的几何先验。附带的LocaLeReg正则化器实现了稳定的实现,并且在ImageNet-1K上的实验表明,LocaLeJEPA在各种骨干模型和下游任务上的表现优于其前身LeJEPA。
-
新的训练方法可实现二元和三元AI模型的高效设备端训练
研究人员开发了一种名为“$\Sigma\Delta$-Sampler”的新训练方法,该方法利用Ising求解器更有效地训练二元和三元AI模型。该方法将随机采样和退火步骤嵌入噪声整形循环中,有效地将噪声推离关键的自适应频带。该方法已在QUBO、CIFAR-10、ImageNet-1k和大型语言模型等各种基准测试中得到验证,在准确性方面取得了显著的改进,并大大减少了内存占用和训练时间。
-
TRACE框架增强了边缘设备上分布式Transformer的推理能力
研究人员开发了TRACE,一个用于边缘设备上Transformer通信高效分布式推理的新框架。TRACE在每个Transformer层中使用向量量化器(VQ)将激活编码为紧凑的码本索引,允许接收方通过查表直接恢复键和值。该方法绕过了在接收数据上进行下游计算的需要,实现了通信-计算重叠并降低了延迟。实验表明,与现有方法相比,TRACE可以实现更高的准确性和显著的推理速度提升,同时大幅降低通信开销。
-
新研究探索自适应视觉感知,涉及2个信息源
近期 arXiv 上的两篇论文探讨了主动视觉感知领域的进展。在该领域,AI 系统动态控制其视觉证据的获取方式以提高识别能力。第一篇论文提供了全面的综述,阐明了定义并提出了一个评估框架,以便更好地比较不同的主动感知方法。第二篇论文介绍了一种新颖的自适应观测控制接口,允许模型动态调整其视野和注视点数量,在 ImageNet 等基准测试中展示了改进的准确性-计算权衡。
-
新的变分滤波算法提高了深度分类器的准确性和校准性
研究人员开发了一种新的变分滤波算法,旨在提高深度学习分类器的准确性和校准性。该方法将最后一层的参数视为状态空间模型,通过预测和变分更新来吸收小批量数据。该算法使用独立的二元概率代理,在各种下游任务(包括分布外检测和在ImageNet-1k上进行微调)上,与标准的AdamW训练和变分贝叶斯最后一层(VBLL)相比,表现更优。
-
寄存器令牌增强的视觉Transformer可改善图像重建
研究人员开发了一种方法,通过将编码全局场景属性的寄存器令牌整合到视觉Transformer(ViT)解码器中,来改进图像重建和生成。通过将这些寄存器令牌与空间块令牌联合处理,使用DINOv2和DINOv3的ViT-B解码器在重建误差方面取得了显著降低,其中DINOv2在FID分数上显示出9.5%的改进。对于图像生成任务,与仅使用块令牌的基线相比,DINOv2模型还将平均FID降低了9.8%。
-
新研究探索用于图像识别的视觉语言模型
一篇新的arXiv论文探讨了视觉语言模型(VLMs)在图像识别方面的能力,比较了它们在语言引导和纯视觉分类任务中的表现。该研究在ImageNet-1k数据集上评估了SigLIP 2和RADIOv2.5等已建立和较新的模型。它分析了影响准确度的因素,如提示设计和k-NN参数,并提出了一种融合方法,以利用文本和视觉嵌入的互补优势来改进分类。
-
循环视觉 Transformer 用单个块实现全深度编码器精度
研究人员开发了一种新颖的循环视觉 Transformer (reViT),它利用单个 Transformer 块进行递归应用,从而达到与全深度视觉编码器相当的精度。这种方法将每个递归深度的前馈网络 (FFN) 表示为共享专家的组合,这些专家由归一化的深度坐标进行编程。reViT 模型在 ImageNet-1k 上的监督训练和从 DINOv2 教师蒸馏方面均表现出色,其性能优于其他混合专家 (MoE) 系列,并以显著更少的参数实现了 D…
-
ViTok 模型增强计算机视觉蒸馏中的密集语义
研究人员开发了 ViTok,一种新的模型,可改进计算机视觉任务中多教师蒸馏的密集语义。通过结合 SigLIP2 和 DINOv3-L 的见解,ViTok 解决了全局识别和密集语义准确性之间的权衡问题。该模型包含多项修改,包括拆分适配器头、不对称损失和掩码图像建模,在 ImageNet-1K 和 ADE20K 基准测试中取得了强劲的性能。
-
新的KCCA方法增强了VLM的视觉感知能力
研究人员通过提出一种基于核典型相关分析(KCCA)的新方法,重新审视了视觉语言模型(VLM)的视觉表示增强。该方法通过最大化投影相关性来表征特征子空间上的表示对齐。该方法被扩展到三视图(3vKCCA)公式,结合了文本编码器的投影以实现联合对齐。在CLIP ViT-L/14和ImageNet-1K上的实验表明,3vKCCA将MMVP-VLM的准确率从17.8%显著提高到25.9%,在保持零样本性能的同时优于现有方法。
-
新的脉冲自注意力方法减少了训练-推理不匹配
研究人员开发了一种名为并行时序对齐脉冲自注意力机制(PT-SSA)的新方法,以解决脉冲神经网络训练和推理中的差异。该方法重建虚拟脉冲切片并并行计算注意力,显著减少了训练和推理之间的不匹配。自适应版本Adaptive PT-SSA通过学习重缩放因子进一步提高了性能,在CIFAR-100和ImageNet-1K等基准测试中取得了显著的准确性提升。
-
函数空间Transformer自适应表示以应对科学和视觉任务
研究人员推出函数空间Transformer (FST),一个旨在从离散样本表示的函数中学习的新颖框架。与使用固定网格的传统方法不同,FST采用一种空间自适应的连续潜在表示,其锚点位置根据输入观测值进行预测和优化。这种自适应方法使表示能够更好地匹配输入的空间组织,从而提高性能。FST在PDE预测任务上展示了优于Perceiver IO的结果,并在ImageNet-1K上以更少的参数实现了比Vision Transformer更高的准确率。