PulseAugur
中
实时 10:26:42
实体 Hierarchical Low-Rank Reparameterization

Hierarchical Low-Rank Reparameterization

PulseAugur coverage of Hierarchical Low-Rank Reparameterization — every cluster mentioning Hierarchical Low-Rank Reparameterization across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_327105 ·

    新方法大幅压缩AI模型微调参数

    研究人员开发了一种名为层级低秩重参数化(Hierarchical Low-Rank Reparameterization)的新方法,可以显著压缩参数高效微调(PEFT)方法中的可训练参数。该技术将PEFT参数重组并分解为多层压缩结构,在旨在保持强大性能的同时,大幅减少了所需的参数数量。当应用于LoRA和DoRA等现有的PEFT方法时,这种方法已显示出具有竞争力的结果,甚至在参数压缩一个数量级的情况下,在常识推理任务上的准确性上超越了基线。