PulseAugur
中
实时 00:41:50
实体 Normalized Low-Rank Adaptation

Normalized Low-Rank Adaptation

PulseAugur coverage of Normalized Low-Rank Adaptation — every cluster mentioning Normalized Low-Rank Adaptation across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_227270 ·

    新方法增强LoRA在模型适应中的效率和稳定性

    研究人员开发了两种新方法来提高参数高效模型适应中使用的低秩适应（LoRA）技术的效率和稳定性。归一化低秩适应（NoRA）在训练期间对降维矩阵进行归一化，以加速收敛并提高性能，而无需增加参数或计算开销。LoRA的激活边界匹配（ABM-LoRA）使用任务诱导的激活边界符号作为新适配器的目标，提高了LoRA对初始化的敏感度，并在各种基准测试中优于标准LoRA。