实体 Haokun Liu

Haokun Liu

PulseAugur coverage of Haokun Liu — every cluster mentioning Haokun Liu across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_133624 · Jul 9 · 04:00

回收 LoRA 收益有限，提示正则化效应

一篇新研究论文探讨了回收预训练 LoRA 模块用于语言模型的有效性，特别是在从 Hugging Face Hub 进行适配时。该研究使用了近 1000 个在 Llama 3.1 8B-Instruct 模型上训练的用户贡献 LoRA，发现与在相同数据上训练新 LoRA 相比，自适应合并方法带来的益处有限。令人惊讶的是，选择合并哪些 LoRA 对结果影响甚微，甚至随机初始化的参数也能产生相似的性能，这表明可能存在正则化效应，而非积极的跨…