ImageNet
PulseAugur coverage of ImageNet — every cluster mentioning ImageNet across labs, papers, and developer communities, ranked by signal.
17 天有情绪数据
-
新型紧凑型 AI 模型在呼吸系统疾病分类中实现高精度
研究人员开发了两种新型紧凑型卷积 Transformer 模型 RespCCT 和 FreqCCT,用于从音频记录中对呼吸系统疾病进行分类。与典型的庞大网络相比,这些模型的参数数量显著减少,在公共数据库的多类别分类任务上实现了高精度(高达 98.13%)和宏观 F1 分数(高达 0.970)。该研究还强调了这些模型的成本效益和可解释性,证明了它们在资源匮乏环境中的应用潜力。
-
新GRAFT方法增强VLM零样本分类能力
研究人员推出了一种名为GRAFT的新方法,用于提高视觉语言模型(VLMs)的零样本分类能力。GRAFT通过将适应性原型建模为具有位移场的文本锚点,并使用高斯马尔可夫随机场先验在语义类别图上进行池化,来解决现有测试时适应技术的局限性。这种方法允许在缓存特征上进行闭式、无梯度推理,并在十一个基准和四个ImageNet偏移量上展示了优于零样本基线的效果,尤其是在词汇类别较少的情况下。
-
新的ERIG方法增强了神经网络特征归因的稳定性
研究人员开发了一种新的神经网络解释方法——熵正则化积分梯度法(ERIG),该方法增强了特征归因的稳定性。与先前的方法不同,ERIG使用最大熵softmax加权来减少由微小输入扰动引起的 Irregularities。在ImageNet和Oxford-IIIT Pet数据集上的CNN和Transformer模型上进行的实验表明,ERIG在计算成本极小的情况下显著提高了归因稳定性和定位精度。
-
新方法使用延时图像的颜色编码进行无标记病毒感染检测
研究人员开发了一种名为时间伪RGB编码的新方法,无需标记数据即可检测细胞中的病毒感染。该技术将三个时间偏移的明场图像堆叠为红、绿、蓝通道,使标准卷积神经网络(CNN)能够分析感染进展。在人脑内皮细胞中委内瑞拉马脑炎病毒(VEEV)的实验中,该方法达到了91.6%的准确率,优于单帧模型,尤其是在感染后期。
-
新的梯度引导搜索提升图像鲁棒性
研究人员开发了一种名为梯度引导随机搜索(GRS)的新方法,以提高图像识别模型对像素稀疏对抗性攻击的鲁棒性。GRS比现有的稀疏投影梯度下降(sPGD)和Sparse-RS等方法更有效地利用梯度信息。新方法使用梯度符号来改变像素值,并使用梯度排名来选择像素,在CIFAR-10和ImageNet数据集上的性能与集成稀疏AutoAttack(sAA)相当或更好,同时速度更快,计算资源需求更少。
-
新的SAD框架增强了潜在生成模型
研究人员开发了一种名为样本对齐解码器(SAD)的新型训练后框架,以改进潜在生成模型。SAD仅微调冻结生成器的解码器,解决了生成器的残差误差直接渲染到图像中的问题。该框架使用样本-样本分布对齐在特征空间中将解码生成的潜在向量与未配对的真实图像进行匹配,并使用编码器锚点保留使解码器保持接近其原始状态。该方法提高了最先进的ImageNet生成器的性能,并可应用于文本到图像生成。
-
新方法移除扩散模型中的解码器,提升图像质量
研究人员开发了一种名为“无需解码器即可解码”(DWD)的方法,该方法消除了对潜在扩散模型中解码器的需求。通过向微调的扩散 Transformer 添加线性预测头,DWD 允许模型直接生成像素,从而降低推理成本并提高图像和视频质量。该方法在视频生成方面显示出 23% 的扭曲误差减少,并在 ImageNet 上的文本到图像生成方面取得了 1.43 的新最先进 FID 分数。
-
NVIDIA 庆祝 CUDA 问世 20 周年,推动人工智能和科学发展
NVIDIA 正在庆祝其 CUDA 平台问世二十周年,该平台已成为科学计算和人工智能的基础技术。CUDA 于 2006 年推出,使开发人员能够利用 GPU 的强大功能处理图形以外的苛刻应用,加速了分子生物学和深度学习等领域的突破。该平台已赋能超过 1100 万开发人员,Klaus Schulten 团队在分子模拟方面的贡献以及 AlexNet 和 AlphaFold 2 背后的开发人员在关键人工智能进步中利用 CUDA 都做出了重要贡献。
-
李飞飞发布Atlas,一个统一的AI机器人世界模型
World Labs创始人、即将担任AMD首席科学家的李飞飞,发布了Atlas,一个新颖的统一世界模型,用于生成和重建。Atlas由她和斯坦福团队开发,能够执行从密集3D重建到纯文本到图像生成,甚至从最少输入进行稀疏重建的任务。该模型采用了多视角自回归扩散Transformer架构,关键的见解是“视角即一切”(viewpoint is all you need)用于预测后续帧。Atlas在相机控制生成和3D重建任务中展现了最先进的性能…
-
各向异性流模型提升生成模型性能
研究人员开发了各向异性流模型(AnisoFlow),这是一种用于流式生成模型的新方法,它用可学习的预测目标取代了固定的预测目标。该方法允许模型各向异性地缩放噪声分量,在学习到的基中为不同方向分配权重。AnisoFlow 在 ImageNet 上的 Fréchet Inception Distance (FID) 分数方面取得了改进,并通过减少伪影提高了文本到图像生成的图像质量。
-
新的自然PC方法在神经网络训练中实现了最先进的效率
研究人员开发了一种名为自然PC的新方法,该方法增强了用于训练神经网络的预测编码(PC)。该方法使用横向电路实现高效的自然梯度学习,通过学习代表Fisher信息矩阵的活动相关性来绕过昂贵的矩阵求逆。自然PC在图像重建任务的样本和计算效率方面展示了最先进的性能,特别是在使用显著更低的计算成本和训练样本的情况下,在ImageNet上达到了与AdamW的随机梯度下降相媲美的效果。
-
胸部X光AI:基础模型优于CNN-Transformer集成
一项新的研究论文调查了将CNN和Vision Transformer结合用于胸部X光分类的有效性。研究发现,ImageNet预训练模型的集成性能不如在胸部放射线照片上预训练的单一基础模型EVA-X-S。这种集成方法还需要更多的计算资源和参数,这表明专门的基础模型在该任务上可能更有效率和更有效。
-
新的RB-LDC方法增强了潜在扩散模型中的噪声鲁棒性
研究人员开发了RB-LDC,一种提高潜在扩散模型对噪声鲁棒性的新方法。通过引入一个在不同潜在方向上平衡冗余的可逆线性层,RB-LDC根据解码器的敏感度优化信噪比(SNR)的分配。这种方法通过基于雅可比行列式的敏感度估计来实现,与标准的各向同性编码相比,在ImageNet上展示了改进的重建质量和降低的Fréchet Inception Distance(FID),尤其是在采样过程中的噪声条件下。
-
Dual-Rate Diffusion 使用交错的重-轻网络加速生成模型
研究人员开发了一种名为 Dual-Rate Diffusion 的新方法,可显著加快扩散模型的推理过程。该技术涉及在高容量上下文编码器和轻量级去噪模型之间交替使用。上下文编码器稀疏地提取特征,然后由较轻的模型在每一步重复使用这些特征,以有效地优化生成的样本。这种方法在 ImageNet 基准测试上将计算成本降低了 2-4 倍,同时不牺牲样本质量,并且与蒸馏方法兼容,可进一步提升性能。
-
流匹配研究探索稳定性、鲁棒性和时间一致性
三篇新研究论文探讨了生成模型流匹配技术的进展。第一篇论文研究了流匹配策略中欧拉采样对准确性和局部稳定性的双重要求,并强调可能需要不同的步数。第二篇论文通过提出时间残差分数和比较条件分数方法,解决了目标数据腐蚀和标签噪声下流匹配的鲁棒性问题。第三篇论文引入了时间对一致性,这是一个通过耦合配对时间步长的速度预测来提高样本质量的训练目标,并在各种流匹配模型和数据集上展示了收益。
-
新方法以有限的监督增强视觉语言模型的适应性 · 跟踪3 个来源
研究人员正在开发新的方法,以有限的监督来适应视觉语言模型(VLM)到新领域。一种名为 ACTOR 的方法使用一种无需训练的插件模块,该模块利用未来样本的查询标签来改进当前预测。另一种名为 SignSparseSGD 的方法侧重于使用梯度更新的符号而非其幅度来进行高效的少样本适应。第三种技术 DIFO++ 利用 CLIP 等模型的预训练视觉语言先验,通过定制和提炼这些通用模型的知识来增强无源域适应。
-
新的扩散Transformer通过多尺度和组合能力推进图像生成 · 跟踪2个来源
两篇新的研究论文介绍了用于图像生成的新型扩散Transformer架构。第一篇,MS-pDiT,将空间尺度视为一种模态,同时处理多分辨率图像以提高保真度并实现灵活的标记化。第二篇,全景场景程序扩散Transformer(PSP-DiT),将全景场景程序视为一等潜在变量,增强了模型处理涉及实例身份、属性和空间关系组合提示的能力。
-
胸部X光分类:基础模型优于CNN-Transformer集成模型
一项研究调查了结合ImageNet预训练的卷积神经网络(CNN)和视觉Transformer(ViT)用于胸部X光分类,与专门的胸部X光基础模型相比的有效性。研究发现,虽然ImageNet模型的集成很常见,但单个基础模型EVA-X-S取得了更高的AUROC分数0.828。包含EVA-X-S或仅由ImageNet模型组成的集成模型表现更差,并且带来了显著更高的计算成本。研究结果表明,对于这项特定任务,经过微调的基础模型优于传统的集成模型。
-
混合学习方法提高了CNN训练效率和准确性
研究人员开发了一种新颖的混合方法来加速卷积神经网络(CNN)的分布式训练。该方法结合了双批次学习方案(使用大和小批次大小来提高效率和泛化能力)和循环渐进学习方案(在训练过程中逐渐增加图像分辨率)。实验表明,这种混合技术可以显著减少训练时间,同时提高模型在CIFAR-100和ImageNet等数据集上的准确性。
-
新的训练方法提高了CNN对抗上下文迁移的鲁棒性
研究人员开发了一种新的训练框架,以增强卷积神经网络在上下文迁移现象中的鲁棒性,该现象是指在不同的测试时段环境中模型性能会下降。所提出的方法使用空间特征归因来引导模型关注与对象相关的特征,而不是非因果的上下文线索。这包括一种称为ContrastiveCAMs的新型归因变体和一种改进的损失函数,即上下文正则化交叉熵(CR-CE),它抑制了上下文区域的影响。该方法在Waterbirds、Spawrious和ImageNet变体等多个数据集上…