EWC
PulseAugur coverage of EWC — every cluster mentioning EWC across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
寻影（OBSBOT）影像自动化技术突破，高端Webcam市场全球领先
寻影（OBSBOT）是一家专注于影像自动化的公司，由大疆系和浙大系成员创立。公司早期在主流影像市场巨头的夹缝中艰难前行，第一代产品因市场遇冷和芯片短缺而遭遇挫折，但团队坚持影像自动化是未来趋势。通过技术迭代和对泛会议场景的精准把握，寻影的Tiny系列产品迅速打开市场，实现了连续五年50%以上的年增长，并在高端Webcam市场占据全球领先地位。
-
新的持续学习方法通过层敏感性自适应正则化
研究人员开发了一种新的持续学习方法，解决了现有正则化方法的局限性。该方法受层自适应正则化的启发，认识到神经网络中不同层对遗忘过去任务的敏感度不同。通过分析Hessian谱和对抗性比特翻转攻击，研究表明，按层正则化（由层顶部Hessian特征值加权）比EWC等按参数方法更有效。研究结果表明，应更强地保护早期层，同时允许更深层更自由地适应，从而提高性能并减少遗忘。
-
新框架MedCRP-CL增强了医学图像分割的持续学习能力
研究人员开发了MedCRP-CL，一个用于医学图像分割持续学习的新框架。该方法通过使用贝叶斯非参数方法分析临床文本提示，动态发现称为语义模态的任务分组。通过维护由EWC正则化的模态特定适配器，MedCRP-CL促进了相似任务内的知识转移，同时防止了不相似任务之间的灾难性遗忘。该框架无需回放，并在16个医学分割任务上展示了Dice分数显著提高且遗忘极少。
-
新方法解决持续学习中的灾难性遗忘问题 · 跟踪8个来源
研究人员正在开发新方法来解决持续学习中的灾难性遗忘问题，即模型在学习新任务时会丢失先前获得的知识。几篇论文提出了新颖的技术，包括可学习的小波激活、技能引导的自适应记忆检索和持续蒸馏学习。其他方法侧重于表示微调、激活加权自适应保留和分组 LoRA 适配器合并，以提高模型的塑性和稳定性。这些进展旨在使模型能够更有效地进行顺序学习并适应不断变化的数据流。
-
新的防御框架应对多智能体AI系统中不断演变的攻击
研究人员推出 OpenEvoShield，一个旨在保护基于大型语言模型的多智能体系统 (LLM-MAS) 免受不断演变攻击的新型防御框架。该协同进化系统使用非对称速率控制器来管理攻击和正常智能体行为的学习速率，从而防止在动态环境中出现性能下降。OpenEvoShield 采用正常边界更新器和基于能量的检测器来适应变化的智能体行为，并以低误报率识别新颖威胁。
-
新型AI架构无需反向传播即可抵抗灾难性遗忘
研究人员开发了一种名为认知记忆原语（CMP）的新架构，旨在对抗AI模型中的灾难性遗忘。与依赖反向传播和附加修复的传统方法不同，CMP使用无梯度局部学习规则，并将输入存储为稀疏关系码。在15个文本域的实验中，CMP与使用在线EWC训练的Transformer模型相比，表现出显著更好的反向迁移，提高了15-19倍。然而，该架构也表现出与Transformer基线相比明显的准确性差距，并且未能提高视觉基准的性能。
-
新研究利用模拟设备噪声实现持续学习
研究人员开发了一种名为内在噪声整合（INC）的新方法，该方法利用模拟神经形态硬件中固有的噪声来改进持续学习。通过将突触动力学以记忆关键屏障为条件，INC将设备噪声从准确性障碍转变为记忆巩固的资源。这种方法在Split-MNIST和真实的BrainScaleS-2硅上展示了顺序任务保持能力的显著提高，优于传统的锚定漂移方法。
-
新的CADRE框架增强了医学视觉语言模型的安全适应性
研究人员开发了CADRE，一种用于高效安全地适应医学视觉语言模型（VLMs）的新框架。该方法侧重于防止灾难性遗忘和先验漂移，这对于临床应用至关重要。CADRE结合了低秩适应（LoRA）与新颖的弹性权重巩固项和锚点到先验的惩罚。在乳腺癌检测的组织病理学、超声和胸部放射学测试中，CADRE与现有方法相比显著减少了遗忘并提高了准确性。
-
CARL-CXR框架改进了胸部X光片分类的持续学习
研究人员开发了CARL-CXR，一种用于胸部X光片分类持续学习的新框架。该系统允许在不完全重新训练的情况下纳入新数据集，从而减轻灾难性遗忘。CARL-CXR使用轻量级适配器和动态路由机制来在顺序更新中保持性能，在任务未知场景下优于现有方法。
-
新的基准测试评估AI模型在不同ICU数据域间的迁移能力
研究人员开发了一个新的基准来评估机器学习模型在最初于单一医院数据上训练后，适应不同地区患者数据的能力。这解决了将模型迁移到数据分布各异的小型医院的挑战，这是临床结果预测中常见的问题。该基准将这种迁移视为一个域增量学习问题，并测试了数据重放和弹性权重巩固（EWC）等方法在保留原始知识同时学习新特定领域特征的能力。
-
新的OCRR基准衡量AI模型通过纠正从分布变化中恢复的能力
研究人员推出OCRR，这是一个新的基准，旨在评估机器学习系统通过在线纠正从分布变化中恢复的程度。与静态基准不同，OCRR模拟了模型遇到新数据类别并必须适应的现实世界场景。该基准衡量了在应用纠正时，新类别上的准确性以及原始数据上准确性的保留情况。
-
新研究表明微调机制显著影响持续学习评估
一篇新论文认为，微调机制，特别是可训练参数子空间，是评估持续学习方法的一个关键变量。研究人员发现，像EWC、LwF、SI和GEM等标准持续学习方法的相对性能排名，会根据所选的微调深度而发生显著变化。更深的适应机制与遗忘增加有关，这表明当前的评估协议可能在不同的微调设置下不够稳健。