PulseAugur
中
实时 10:14:37
实体 Group-Ranked Zeroth-Order Optimizer

Group-Ranked Zeroth-Order Optimizer

PulseAugur coverage of Group-Ranked Zeroth-Order Optimizer — every cluster mentioning Group-Ranked Zeroth-Order Optimizer across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_221103 ·

    新方法解耦AI模型特征,以改进多任务合并

    研究人员开发了一个新颖的框架,用于将多个AI模型合并成一个更强大的通用模型。该方法通过使用稀疏自编码器将任务向量投影到高维稀疏特征空间,来解决任务特定特征纠缠的“叠加”挑战。为了优化此过程,采用了分组排序的零阶优化器来识别关键的合并层。在Qwen2.5模型上的实验表明,与现有的合并技术相比,在包括一个具有挑战性的四任务场景中取得2.78%的显著提升在内的各种任务上都有显著改进。