ImageNet-100
PulseAugur coverage of ImageNet-100 — every cluster mentioning ImageNet-100 across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
研究Vision Transformer注意力转移，鲁棒性差距与训练成熟度相关
一篇新发表在arXiv上的研究论文探讨了Vision Transformer（ViTs）中注意力机制的转移。研究人员发现，虽然经过训练以模仿教师模型的注意力图的ViTs在分布内准确率方面表现很高，但在分布偏移下表现不佳。研究表明，注意力转移几乎是完美的且永久的，但观察到的鲁棒性差距在很大程度上是训练成熟度的产物，当训练计划完成后会消失。研究结果表明，在这种情况下，注意力图揭示的是模型“看”哪里，而不是模型“知道”什么。
-
新基准使用多模态大语言模型（MLLM）委员会评估 AI 模型解释
研究人员开发了 CBX-Bench，这是一个旨在量化评估概念瓶颈模型（CBMs）生成解释质量的新基准。该基准利用一个多模态大语言模型（MLLM）委员会对解释质量进行评分，该评分已通过人类偏好进行了验证。该系统旨在提供一种可扩展且与人类对齐的方法，以超越传统的分类准确性来评估 CBM 的可解释性。
-
新的PWLR方法增强了图像分类器中的分布外检测能力
研究人员开发了一种名为成对见证局部拒绝（PWLR）的新方法，以改进图像分类器中的分布外（OOD）检测。该技术利用多模态大语言模型（MLLMs）来识别区分相似类别的局部视觉线索。PWLR使用分布内数据过滤这些线索以确保可靠性，然后在推理过程中将此局部证据与全局类别分数相结合。在ImageNet-100上的实验表明，PWLR显著增强了现有视觉语言检测基线的性能。
-
新的PWLR方法利用LLM生成的线索增强图像分类器的OOD检测能力
研究人员开发了一种名为成对见证局部拒绝（PWLR）的新方法，以改进图像分类器中的分布外（OOD）检测。PWLR利用多模态大型语言模型（MLLM）来识别区分相似类别的局部视觉线索。然后使用分布内数据验证这些线索以确保其可靠性。在推理时，PWLR将全局类别分数与这种成对局部证据相结合，以更准确地识别OOD样本，并在各种基准测试中显示出持续的改进。
-
新的蒸馏方法教会AI模型避免捷径
研究人员开发了一种名为反捷径蒸馏（ASD）的新知识蒸馏技术。该方法使用早期教师模型作为负参考，引导学生模型避免学习捷径。ASD包含两个损失：时间对比损失和捷径抑制损失，后者会惩罚学生模型在已识别捷径方向上的投影。在CIFAR-100、ImageNet-100和TinyImageNet上的实验表明，ASD在干净准确性和鲁棒性方面优于标准知识蒸馏，尤其是在跨架构场景中。
-
新的TESLA激活函数改进了神经网络奇偶校验问题求解能力
研究人员推出了一种新颖的激活函数TESLA，旨在提高神经网络在处理二元向量和奇偶校验问题上的性能。TESLA利用正弦和余弦项的可学习组合来控制多项式次数并放大高阶分量，理论上可以塑造训练动态以更好地强调结构。实证表明，TESLA在有限数据奇偶校验问题上表现出强大的泛化能力，并对标签噪声具有鲁棒性，同时在ImageNet-100数据集上也显示出可比的性能。
-
新框架解决自适应数据清理方法中的偏差问题
开发了一个新的评估框架，以解决自适应数据清理方法中的混淆偏差。这些方法使用数据驱动的分区而不是手动阈值，可以通过改变移除样本的数量来隐式改变性能指标。所提出的框架使用匹配预算和匹配召回率的对照，以及像AUROC和AUPRC这样的独立于阈值的指标，以确保性能提升反映了真实的腐败区分能力，而不是移除预算的变化。在CIFAR-10和ImageNet-100上的实验表明，在匹配操作点后，许多在朴素评估中观察到的性能差异减小或消失了。
-
新的对抗性净化方法增强了深度神经网络的鲁棒性
研究人员开发了一种名为基于一致性模型的对抗性净化（CMAP）的新方法，用于防御深度神经网络免受对抗性攻击。CMAP通过优化预训练一致性模型潜在空间内的向量，从受扰动的样本中恢复干净数据。该方法结合了感知一致性恢复机制、潜在分布一致性约束和潜在向量一致性预测方案，以增强鲁棒性并保持数据完整性。在CIFAR-10和ImageNet-100数据集上的实验表明，CMAP在提高对强对抗性攻击的鲁棒性方面是有效的，同时保持了高自然准确率。
-
新的CIFNet框架以解析方式解决了类别增量学习问题
研究人员开发了CIFNet，一个新颖的类别增量学习（CIL）框架，它绕过了传统的基于梯度的优化。通过将CIL视为一系列确定性的、闭式解的分类器适应过程，CIFNet在实现与现有方法相当的准确率的同时，显著降低了计算成本和能耗。该框架使用正则化递归最小二乘法（RRLS）来解析地更新分类器权重，并包含一个轻量级的校准缓冲区，以确保决策边界的平衡，而无需存储原始图像或执行梯度更新。
-
新的AI归因方法以最小的准确率损失提高了稳健性
研究人员开发了一个新框架，以提高AI模型归因方法的忠实度和一致性，尤其是在几何变换下。这种无需标注的方法使用子模搜索来识别驱动模型预测的证据，并引入子模排序损失来对齐跨变换输入的这些选择。在ImageNet数据集上的实验表明，对于ViT、ResNet-50和ConvNeXt-B等架构，在模型准确率影响极小的情况下，归因稳定性和稳健性得到了显著改善。
-
子词视觉Transformer增强细粒度图像识别
研究人员推出了一种新颖的细粒度视觉识别方法——子词视觉Transformer（SubViT），它改进了标准的视觉Transformer。SubViT选择性地对图像块进行分词，通过用多个子词表示区分性区域来分配更多容量，同时保留全局上下文。该方法分两个阶段进行训练，以识别和提炼信息性注意力图，从而无需额外的正向传播即可直接预测词的重要性。SubViT在广义类别发现等挑战性任务上显著提高了准确性，在CUB、FGVC-Aircraft和St…
-
新方法优化边缘设备上的深度神经网络，在精度损失极小的情况下降低延迟
研究人员开发了一种新的方法，用于优化边缘设备的深度神经网络架构，重点在于满足严格的延迟约束同时保持高精度。该方法利用了面向延迟的学习技术和硬件定制的延迟预测器，实现了单次训练过程。实验表明，在NVIDIA Jetson平台上，GoogLeNet和VGG-19等模型的延迟显著降低，而精度损失极小甚至有所提高。
-
Fusion框架统一视觉Transformer适配以提高效率
研究人员开发了Fusion，一个旨在通过统一的顺序令牌适配技术来提高视觉Transformer（ViTs）效率的新型框架。该框架以分阶段的方式协调令牌合并、提前退出和令牌修剪，使这些机制能够协同工作而非竞争。Fusion还集成了轻量级路由模块，无需重新训练即可动态调整准确率-延迟权衡。在DeiT-S的ImageNet-1k上的实验表明，Fusion在计算预算方面匹配或超过了最先进的自适应ViT方法，同时显著降低了校准误差和推理能耗。
-
新的C-GCD方法使用虚拟类别改进无标签数据学习 · 跟踪2个来源
研究人员开发了一种新的持续广义类别发现（C-GCD）方法，称为虚拟类别引导的持续广义类别发现。该方法将虚拟类别学习（VCL）应用于从无标签数据中逐步识别新类别，同时保留已知类别的知识。它通过将模糊样本分配给临时的虚拟类别来解决模糊样本的挑战，从而避免了噪声标签并减轻了对熟悉类别的偏见。该方法通过扩展邻域对比学习（ENCL）得到进一步增强，以改进表示学习和类别分离。在CIFAR-100、Tiny ImageNet和ImageNet-10…
-
新的训练方法消除了 Vision Transformers 中的位置嵌入
研究人员开发了一种名为 Active Spatial Guidance (Guidance) 的新训练技术，消除了 Vision Transformers (ViTs) 中对显式位置嵌入的需求。通过在训练期间对最后一层 patch token 应用辅助的二维坐标回归损失，Guidance 直接从数据中诱导空间组织。该方法在 ImageNet-100 分类和 ADE20K 语义分割等任务上持续提高了性能，优于传统的注入式位置机制，如学习…
-
新框架改进了无样本类别增量学习
研究人员推出了一种新颖的无样本类别增量学习（EFCIL）方法——几何锚定传输框架。该框架将特征传输作为内在训练约束，而不是单独的后任务步骤，以在变化的特征空间中保持稳定的决策边界。它利用通过马氏距离对齐回归获得的解析几何锚点来解决各向异性漂移，并利用拓扑感知演化目标来正则化流形退化。在 CIFAR-100、TinyImageNet 和 ImageNet-100 上的实验表明，这种耦合方法在严格的无样本条件下比现有的事后方法提高了性能。
-
新的LEAP课程提高了Vision Transformer蒸馏的效率
牛津大学的研究人员推出了一种名为LEAP的新型训练课程，旨在提高Vision Transformer (ViT) 的知识蒸馏效率。LEAP采用渐进式方法，使用教师模型的中层特征作为学生模型越来越难的目标。该方法加速了收敛，并在ImageNet-100等数据集上显示出显著的准确性提升，ViT-S模型的准确率提高了+12.24%。此外，LEAP通过优化教师推理，将训练FLOPs减少了25.1%，训练时间减少了21%。
-
新框架探究 Vision Transformer 的几何结构和表征动态
研究人员引入了 Transformer Geometry Observatory (TGO) 框架，旨在探索 Vision Transformers (ViTs) 的表征几何结构。首个版本 TGO-I 专门研究 ViT 表征的光谱几何结构。在 ImageNet-100 上训练的 ViT-Small/16 模型实验表明，随着训练的进行，维度利用率增加，而各向异性降低。与预期相反，信息在表征维度之间重新分配，而不是集中在少数几个主导方向上…
-
新的 SimSiam 命名游戏推动了涌现通信的发展
研究人员推出了一种新颖的涌现通信框架 SimSiam 命名游戏 (SSNG)，它克服了 Metropolis-Hastings 命名游戏 (MHNG) 等先前方法样本效率低下的问题。SSNG 利用自主代理之间的自监督表示对齐目标，通过 Gumbel-Softmax 松弛实现离散符号消息的端到端梯度优化。在 CIFAR-10 和 ImageNet-100 数据集上的实验表明，与现有的参照和重构游戏以及 MHNG 相比，SSNG 的涌现消…
-
新研究通过新颖的检测和纠正方法解决 LLM 和 VLM 幻觉问题
研究人员正在开发新颖的方法来对抗大型语言模型 (LLM) 和视觉语言模型 (VLM) 中的幻觉。一种方法，循环注意力不确定性量化 (RAUQ)，利用注意力头行为来有效检测 LLM 中的事实不准确性，计算开销极小。对于 VLM，诸如检索增强的可靠性感知推理和注意力不平衡校正 (AIR) 等技术旨在通过将响应与外部证据联系起来并重新分配注意力权重来提高可信度。其他方法侧重于解开 VLM 解释中的语义泄漏，并使用反证据验证用于医疗应用，所有…