Class Incremental Learning
PulseAugur coverage of Class Incremental Learning — every cluster mentioning Class Incremental Learning across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
新的无监督方法使人工智能能够从无标签数据中学习新的视觉类别
研究人员开发了一种名为 ICPL（基于置信度的伪标签的无监督增量学习）的新方法，使深度学习模型能够在计算机视觉任务中从无标签数据中学习新类别。该方法解决了现有类别增量学习方法需要完全标记数据集的局限性。ICPL 将伪标签与置信度选择相结合，应用于各种 CIL 方法，在与监督技术相比时取得了有竞争力的结果，并在最终准确率上超越了最先进的 class-iNCD 方法 5% 以上。该方法已在 CIFAR-100 和 ImageNet100 …
-
新的持续学习框架增强了智能电网故障预测能力
研究人员开发了ProDER，一个旨在提高不断变化的智能电网中故障预测准确性的新型持续学习框架。该方法解决了现有AI模型难以适应新的故障类型和运行区域的挑战。ProDER集成了基于原型的特征正则化、logit蒸馏和引导式重放记忆，以提高模型的可靠性并减轻计算负担。评估表明，ProDER在故障类型和区域预测方面的准确性下降极小，性能优于其他持续学习技术。
-
新的Miles方法增强了预训练模型的类别增量学习能力
研究人员开发了一种名为Miles（可扩展子空间度量学习）的新方法，以改进预训练模型的类别增量学习（CIL）。现有的CIL方法要么遭受灾难性遗忘，要么通过为每个新任务扩展模型参数来增加计算成本。Miles通过引导优化有效地扩展参数空间来解决这个问题，利用预训练模型的先验知识。该方法解耦了可学习模块，并使用中间特征进行灵活扩展，在六个基准数据集上取得了最先进的性能。
-
AI研究重新定义持续学习，超越记忆关注适应性
近期研究论文探讨了AI模型中持续学习的复杂性，超越了简单的上下文管理，以解决模型能力随着世界变化而产生的根本性提升。研究调查了模型如何适应新领域和漂移数据，一些方法在快速适应方面表现出色，但在未来任务上表现下降，而另一些方法则更稳定地积累知识，但难以处理过时事实。一个突出的关键挑战是，当前的持续学习方法倾向于隐式地假设未来数据知识，而不是真正地无关紧要，这导致需要新的方法来平衡保留和适应性。
-
新的 DRDN 方法增强了 ViT 类增量学习
研究人员开发了一种名为解耦表示动态网络 (DRDN) 的新方法，以改进 Vision Transformer (ViT) 模型中的类增量学习 (CIL)。DRDN 通过使用掩码图像建模 (MIM) 来保留骨干网络中的通用视觉结构，并通过分层任务令牌扩展来减少任务间干扰，从而解决了跨任务混淆和欠优化的共享表示等挑战。在 CIFAR100-B0 上进行 10 个步骤的实验中，DRDN 实现了 77.19% 的平均准确率，优于 DKT 和 …
-
新的BOFA框架增强了基于CLIP的类增量学习
研究人员开发了一个名为BOFA（Bridge-layer Orthogonal Low-Rank Fusion for Adaptation）的新框架，以改进像CLIP这样的视觉语言模型的类增量学习（CIL）。BOFA仅修改CLIP现有的跨模态桥层，避免了额外的参数或增加推理成本。它使用正交低秩融合将参数更新约束在一个子空间内，以防止遗忘先前学习的任务，从而无需数据重放。该框架还包含一个跨模态混合原型以提高分类性能。
-
HydraCIL 为边缘设备提供高效的类增量学习
研究人员推出 HydraCIL，这是一种专为嵌入式系统等资源受限环境设计的类增量学习新方法。该方法将特征提取与分类器训练解耦，允许在不进行大量骨干网络重新训练的情况下创建轻量级、特定任务的分类器头。实验表明，HydraCIL 在显著降低训练时间和能耗的同时，实现了与最先进方法相当的性能。
-
新方法解决增量学习中的知识遗忘问题
研究人员提出了一种名为“非遗忘分配与双层竞争”（NoFA-BC）的新方法，以增强具有预训练模型的类别增量学习（CIL）。该方法通过开发一种将分配器训练视为递归最小二乘问题的非遗忘分配器（NFA）来解决顺序学习中的知识遗忘问题。NoFA-BC还结合了双层竞争机制，包括任务内“赢家通吃”和任务间“后者居上”，以根据输入相关性优化适配器知识的分配。此外，还包含了一个稳定性增强过程，以提高在先前学习任务上的性能。
-
新的AREA方法增强了基于CLIP的类增量学习
研究人员推出了一种名为AREA的新型类增量学习（CIL）方法，该方法专为基于CLIP的模型设计。AREA通过稳定属性提取和聚合来解决灾难性遗忘的挑战。它利用主测地线分析将类属性锚定在嵌入空间中，并采用轻量级的特定任务专家进行聚合，通过变分信息瓶颈进行正则化。该方法还在推理过程中利用最优传输在属性流形上进行路由，展示了优于最先进技术的性能。
-
新论文解释类别增量学习中的不平衡遗忘
研究人员在类别增量学习中发现了一种称为不平衡遗忘的现象，即尽管采用了平衡的重演策略，但某些类别的遗忘程度却高于其他类别。一篇新论文提出了三个源自梯度分析的末层系数，用于预测和解释这种不平衡遗忘。其中一个代表自诱导干扰的系数，似乎是最强的预测因子，并受到新类别干扰的影响。
-
新型分类器应对类别增量学习挑战
研究人员开发了一种名为层级聚类SOINN（HC-SOINN）的新型分类器，以改进类别增量学习（CIL）。这种新方法通过捕获类别流形的拓扑结构，而不是假设单个点，来解决传统最近类别均值（NCM）分类器的局限性。HC-SOINN分类器通过残差结构拓扑对齐（STAR）方法进一步增强，该方法主动适应学习到的拓扑以应对复杂的特征漂移。将HC-SOINN集成到现有的CIL方法中已显示出持续的性能提升。
-
新的SR2-LoRA方法解决了AI模型中的灾难性遗忘问题
研究人员推出了一种名为SR$^2$-LoRA的新方法，旨在解决类别增量学习（CIL）中的灾难性遗忘问题。该技术通过关注预训练模型在学习新任务期间层间关系的漂移来解决这个问题。通过约束这种漂移，SR$^2$-LoRA旨在保持先前学习任务的分类裕度，并随着学习任务数量的增加而提高性能。
-
新方法利用因果推理改进类别增量学习
研究人员为类别增量学习（CIL）引入了一种新颖的正则化方法，通过关注因果充分性和必要性来解决灾难性遗忘问题。该方法称为 CPNS，旨在通过量化任务内表示的因果完整性以及任务间表示的可分离性来减轻特征冲突。采用使用孪生网络的双范围反事实生成器来最小化与虚假关联相关的风险，从而改善 CIL 中的特征扩展。