实体 Paolo Mandica

Paolo Mandica

PulseAugur coverage of Paolo Mandica — every cluster mentioning Paolo Mandica across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_270749 · Sep 30 · 04:00

新的 PEFT 方法 GPart 和 GDLoRA 旨在匹配全量微调的性能

两篇新的研究论文介绍了用于大型语言模型参数高效微调 (PEFT) 的新颖方法，旨在缩小与全量微调的性能差距。第一篇论文 GPart 提出了一种使用全局参数分区的端到端等距微调方法，该方法将可训练参数直接映射到具有固定几何形状的权重空间。第二篇论文 GDLoRA 将全量权重梯度分解以提取“法向梯度”分量，然后使用该分量直接更新基准权重，以补充标准的 LoRA 优化。这两种方法在各种基准测试中，在显着更低的参数预算下，均展示了与现有 PE…