实体 PrunedLoRA

PrunedLoRA

PulseAugur coverage of PrunedLoRA — every cluster mentioning PrunedLoRA across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_171967 · Jul 30 · 04:00

新研究推动LoRA微调理论与实践发展

研究人员在大型语言模型微调的低秩自适应（LoRA）方面取得了新的理论和实践进展。一项研究提供了一个理论框架，为LoRA的样本复杂度建立了匹配的上下界，并为最优秩选择提供了指导。第二项研究引入了PrunedLoRA，一种使用结构化剪枝从过度参数化的初始化中创建更具表现力和更紧凑的LoRA适配器的方法，在各种任务上表现优于标准LoRA。