实体
Anke Tang
Anke Tang
PulseAugur coverage of Anke Tang — every cluster mentioning Anke Tang across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
面向高效帕累托集近似的混合专家模型融合
研究人员开发了一种新颖的方法，利用基于混合专家（MoE）的模型融合来高效地近似大型深度神经网络的帕累托前沿。该方法解决了多目标优化现有算法的计算成本和可扩展性限制。通过集成专门的单任务模型，MoE模块有效地捕捉了目标权衡，并以最少的额外参数近似帕累托集，为复杂任务提供了可扩展的解决方案。
-
新方法合并微调模型以实现多任务学习
两篇新的研究论文提出了将多个微调模型合并成一个多任务模型的方法，以解决任务间干扰的挑战。第一篇论文介绍了Essential Subspace Merging (ESM) 和 ESM++，它们识别并融合负责任务特定更新的关键参数子空间。第二篇论文提出了Concrete Subspace Learning，这是一种元学习方法，用于寻找一个共同的低维子空间，在不显著损失性能的情况下跟踪干扰。这两种方法都旨在通过管理任务特定参数更新之间的冲突…