PulseAugur
中
实时 14:34:22
实体 LoRA-$\alpha$

LoRA-$\alpha$

PulseAugur coverage of LoRA-$\alpha$ — every cluster mentioning LoRA-$\alpha$ across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_86750 ·

    新论文发现LoRA优化中的缩放因子alpha是关键

    一项新的研究论文探讨了低秩适配（LoRA）优化中缩放因子（alpha）被忽视的作用。研究表明，alpha是比学习率更关键的有效优化驱动因素，能带来仅靠学习率调整无法实现的性能提升。该研究提出了一个新的框架LoRA-alpha，它优化缩放因子以提高性能并简化LoRA模型的超参数调整。