实体 Hao Gu

Hao Gu

PulseAugur coverage of Hao Gu — every cluster mentioning Hao Gu across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_123250 · Jul 3 · 04:00

新方法解决低秩持续学习中的知识遗忘问题

研究人员已确定谱不平衡是预训练模型低秩持续适应过程中知识遗忘的关键因素。他们提出了一种新方法，将任务更新的幅度与其方向结构解耦，并将其表述为在Stiefel流形上的约束优化问题。该方法与视觉语言模型中使用的标准深度学习优化器兼容，旨在减轻向后遗忘和向前遗忘，并在持续学习基线方面表现出比现有方法更好的性能。